1
00:00:06,047 --> 00:00:08,800
[suena música críptica]

2
00:00:15,598 --> 00:00:17,100
[la música se intensifica]

3
00:00:24,065 --> 00:00:26,818
[mujer 1] La IA me parece impresionante.

4
00:00:28,361 --> 00:00:31,489
Muy bien, dando vueltas. Buena formación.

5
00:00:33,116 --> 00:00:36,703
[mujer 1] La IA tiene potencial
para eliminar la pobreza,

6
00:00:36,786 --> 00:00:38,705
danos nuevas medicinas,

7
00:00:39,330 --> 00:00:41,583
y hacer nuestro mundo aún más pacífico.

8
00:00:46,087 --> 00:00:47,087
[hombre 1] Buen trabajo.

9
00:00:49,883 --> 00:00:53,428
[mujer 1] Pero hay tantos riesgos
a lo largo del camino.

10
00:00:54,304 --> 00:00:55,847
[la música va en aumento]

11
00:01:04,773 --> 00:01:09,611
Con la IA, esencialmente estamos creando
una inteligencia no humana

12
00:01:09,694 --> 00:01:11,863
eso es muy impredecible.

13
00:01:14,407 --> 00:01:16,451
A medida que se vuelve más poderoso,

14
00:01:16,534 --> 00:01:19,746
donde estan las lineas rojas
vamos a dibujar con IA,

15
00:01:19,829 --> 00:01:22,665
en términos de cómo queremos usarlo,
o no usarlo?

16
00:01:25,001 --> 00:01:28,505
No hay ningún lugar que sea la zona cero.
para esta conversación

17
00:01:28,588 --> 00:01:31,049
más que aplicaciones militares.

18
00:01:34,010 --> 00:01:38,890
El campo de batalla ahora se ha convertido
la provincia de software y hardware.

19
00:01:41,059 --> 00:01:42,936
[hombre 1] <i>El objetivo ha sido adquirido...</i>

20
00:01:43,019 --> 00:01:44,771
[mujer 1] Y los militares están corriendo

21
00:01:44,854 --> 00:01:48,399
desarrollar la IA más rápido
que sus adversarios.

22
00:01:48,483 --> 00:01:49,483
[pitido]

23
00:01:49,526 --> 00:01:50,526
[hombre 1] <i>Estoy muerto.</i>

24
00:01:50,944 --> 00:01:52,028
[suena música tensa]

25
00:01:52,612 --> 00:01:53,738
[charla de radio]

26
00:01:53,822 --> 00:01:55,782
[mujer 1] Vamos hacia un mundo

27
00:01:55,865 --> 00:01:58,326
donde no sólo los principales ejércitos,

28
00:01:58,409 --> 00:02:02,997
pero los actores no estatales, las industrias privadas,

29
00:02:03,081 --> 00:02:06,042
o incluso nuestro departamento de policía local
por la calle

30
00:02:06,543 --> 00:02:10,046
podría ser capaz de utilizar estas armas
que puede matar de forma autónoma.

31
00:02:12,006 --> 00:02:17,303
¿Cederemos la decisión de quitarnos la vida?
¿A los algoritmos, al software de computadora?

32
00:02:18,638 --> 00:02:21,516
Es uno de los problemas más urgentes.
de nuestro tiempo.

33
00:02:23,935 --> 00:02:26,354
Y, si no se usa sabiamente,

34
00:02:26,437 --> 00:02:30,275
representa un grave riesgo
a cada persona del planeta.

35
00:02:31,317 --> 00:02:32,694
[zumbido]

36
00:02:35,905 --> 00:02:37,407
[la música va en aumento]

37
00:02:40,118 --> 00:02:42,871
[suena música siniestra]

38
00:02:46,749 --> 00:02:48,751
[la música va en aumento]

39
00:02:56,467 --> 00:02:58,469
[moscas zumbando]

40
00:03:00,972 --> 00:03:02,974
[zumbido electrónico]

41
00:03:17,697 --> 00:03:19,657
[suena música tensa]

42
00:03:19,741 --> 00:03:21,367
[charla de radio confusa]

43
00:03:28,291 --> 00:03:30,376
[voz masculina] <i>Buen trabajo, muchachos.</i>

44
00:03:30,460 --> 00:03:31,836
[charla de radio apagada]

45
00:03:34,839 --> 00:03:36,841
[la música se intensifica]

46
00:03:37,342 --> 00:03:39,886
[charla de radio confusa]

47
00:03:42,722 --> 00:03:43,722
[disparos]

48
00:03:46,226 --> 00:03:47,227
[disparo]

49
00:03:47,310 --> 00:03:48,310
[charla de radio]

50
00:03:55,109 --> 00:03:56,569
[risas]

51
00:03:59,906 --> 00:04:02,200
[tecnología 1] Esa es una lente más amplia
que teníamos antes.

52
00:04:02,283 --> 00:04:03,117
[hombre 2] ¿En serio?

53
00:04:03,201 --> 00:04:05,203
[tecnología 1] Puedes ver muchos más datos.

54
00:04:05,286 --> 00:04:06,287
Muy guay.

55
00:04:07,538 --> 00:04:11,167
En Shield AI, estamos construyendo un piloto de IA

56
00:04:11,251 --> 00:04:14,879
eso es conducir sin conductor,
tecnología de inteligencia artificial

57
00:04:14,963 --> 00:04:16,631
y ponerlo en aviones.

58
00:04:16,714 --> 00:04:18,800
[suena música críptica]

59
00:04:19,300 --> 00:04:21,719
Cuando hablamos de un piloto de IA,

60
00:04:21,803 --> 00:04:25,139
pensamos en regalar un avión
un mayor nivel de autonomía.

61
00:04:25,223 --> 00:04:27,850
Estarán resolviendo problemas
por su cuenta.

62
00:04:29,602 --> 00:04:32,355
Nova es un cuadricóptero autónomo

63
00:04:32,438 --> 00:04:35,942
que explora edificios
y estructuras subterráneas

64
00:04:36,859 --> 00:04:38,611
por delante de las fuerzas de despeje

65
00:04:38,695 --> 00:04:41,322
para proporcionar ojos y oídos en esos espacios.

66
00:04:41,906 --> 00:04:44,534
Definitivamente puedes decir
un montón de mejoras

67
00:04:44,617 --> 00:04:45,618
desde la última vez que lo vimos.

68
00:04:45,702 --> 00:04:47,930
[tecnología 2] Estamos trabajando
sobre algunos cambios de exploración hoy.

69
00:04:47,954 --> 00:04:50,248
estamos trabajando un poco
cosas piso por piso.

70
00:04:50,331 --> 00:04:53,584
Terminará un piso, todas las habitaciones,
antes de pasar al segundo.

71
00:04:54,294 --> 00:04:56,796
- Eso es asombroso.
- Hemos introducido algunos cambios recientemente...

72
00:04:56,879 --> 00:04:58,548
Mucha gente me pregunta a menudo

73
00:04:58,631 --> 00:05:02,468
por qué la inteligencia artificial
es una capacidad importante.

74
00:05:02,552 --> 00:05:06,973
Y solo pienso en las misiones.
que estaba ejecutando.

75
00:05:07,056 --> 00:05:09,058
[suena música dramática]

76
00:05:09,142 --> 00:05:10,935
Pasó siete años en la Marina.

77
00:05:11,561 --> 00:05:15,273
Yo era un ex Navy SEAL
desplegado dos veces en Afganistán,

78
00:05:15,356 --> 00:05:17,191
una vez al Teatro del Pacífico.

79
00:05:18,026 --> 00:05:22,947
En un día determinado, es posible que tengamos que limpiar
150 complejos o edificios diferentes.

80
00:05:23,031 --> 00:05:24,574
[suena música tensa]

81
00:05:30,997 --> 00:05:34,250
Una de las capacidades centrales
Es un combate cuerpo a cuerpo.

82
00:05:35,293 --> 00:05:39,172
Tiroteos a distancias extremadamente cortas
en el interior de los edificios.

83
00:05:39,672 --> 00:05:40,672
[disparo]

84
00:05:41,466 --> 00:05:42,967
Te están disparando.

85
00:05:43,468 --> 00:05:46,471
Hay artefactos explosivos improvisados
potencialmente dentro del edificio.

86
00:05:47,764 --> 00:05:48,931
[gritando]

87
00:05:49,015 --> 00:05:55,229
es lo mas peligroso
que cualquier miembro de las fuerzas de operaciones especiales,

88
00:05:55,313 --> 00:05:58,358
cualquier miembro de infantería,
puedes hacer en una zona de combate.

89
00:05:58,441 --> 00:05:59,441
Sin excepción.

90
00:06:01,152 --> 00:06:03,154
[suena música sombría]

91
00:06:12,497 --> 00:06:16,334
Por el resto de mi vida
Estaré agradecido por mi tiempo en la Marina.

92
00:06:17,168 --> 00:06:22,423
Hay una colección de momentos.
y recuerdos que, cuando pienso en,

93
00:06:22,507 --> 00:06:24,592
Ciertamente me emociono.

94
00:06:28,346 --> 00:06:32,725
Es un cliché que la libertad no es gratis,
pero lo creo al 100%.

95
00:06:32,809 --> 00:06:37,105
[temblores] Um, lo he experimentado,
y requiere mucho sacrificio.

96
00:06:38,022 --> 00:06:39,022
Lo siento.

97
00:06:41,067 --> 00:06:44,570
cuando pasa algo malo
a uno de tus compañeros de equipo,

98
00:06:44,654 --> 00:06:46,864
ya sea que estén heridos o asesinados,

99
00:06:46,948 --> 00:06:49,700
Mmm, es sólo un...
Es algo realmente trágico.

100
00:06:49,784 --> 00:06:52,912
Ya sabes, para mí ahora
en el trabajo que hacemos,

101
00:06:52,995 --> 00:06:56,582
Es motivador para um... poder

102
00:06:56,666 --> 00:06:58,835
ya sabes,
reducir el número de veces

103
00:06:58,918 --> 00:07:00,336
eso vuelve a suceder.

104
00:07:03,965 --> 00:07:06,426
[suena música siniestra]

105
00:07:07,176 --> 00:07:08,886
[hombre 3] A finales de la década de 2000,

106
00:07:08,970 --> 00:07:11,556
hubo este despertar
dentro del Departamento de Defensa

107
00:07:11,639 --> 00:07:15,351
a lo que podrías llamar
La revolución accidental de la robótica.

108
00:07:15,893 --> 00:07:19,564
Desplegamos miles de aviones
y robots terrestres a Irak y Afganistán.

109
00:07:21,482 --> 00:07:24,068
[hombre 4] Cuando me preguntaron
por la administración Obama

110
00:07:24,152 --> 00:07:26,404
para convertirse en el Subsecretario de Defensa,

111
00:07:26,904 --> 00:07:29,323
la forma en que se peleó la guerra...

112
00:07:29,407 --> 00:07:31,117
Definitivamente estaba cambiando.

113
00:07:32,452 --> 00:07:36,330
Se utilizaron robots.
donde se habría utilizado a las personas.

114
00:07:37,999 --> 00:07:40,376
[Paul] Los primeros sistemas robóticos
eran controlados remotamente.

115
00:07:40,460 --> 00:07:45,173
Hay un humano conduciéndolo, dirigiéndolo,
como lo harías con un coche a control remoto.

116
00:07:46,632 --> 00:07:51,512
[Bob] Primero comenzaron en general.
perseguir artefactos explosivos improvisados,

117
00:07:52,013 --> 00:07:54,849
y si la bomba explotara,
el robot explotaría.

118
00:07:57,393 --> 00:08:00,396
Entonces dirías: "Eso es una lástima".
Está bien, saca el otro robot".

119
00:08:00,480 --> 00:08:02,190
[suena música tensa]

120
00:08:02,273 --> 00:08:05,067
[mujer 2] En Afganistán,
tenías el dron Predator,

121
00:08:05,151 --> 00:08:09,739
y se convirtió en una herramienta muy, muy útil
para realizar ataques aéreos.

122
00:08:13,117 --> 00:08:16,829
[Paul] Con el tiempo, los planificadores militares
Empecé a empezar a preguntarme,

123
00:08:16,913 --> 00:08:20,791
"¿Para qué más podrían usarse los robots?"
¿Y hacia dónde iba esto?

124
00:08:20,875 --> 00:08:24,170
Y uno de los temas comunes.
fue esta tendencia hacia una mayor autonomía.

125
00:08:26,506 --> 00:08:30,635
[mujer 2] Un arma autónoma
es aquel que toma decisiones por sí solo,

126
00:08:30,718 --> 00:08:33,304
con poca o ninguna intervención humana.

127
00:08:33,387 --> 00:08:37,558
Por lo que tiene una capacidad independiente,
y es autodirigido.

128
00:08:38,434 --> 00:08:41,604
Y si puede matar
Depende si está armado o no.

129
00:08:42,104 --> 00:08:43,231
[pitido]

130
00:08:43,314 --> 00:08:47,026
[Bob] Cuando tienes cada vez más autonomía
en todo su sistema,

131
00:08:47,109 --> 00:08:49,779
todo empieza a moverse
a una velocidad de reloj más alta.

132
00:08:51,989 --> 00:08:56,869
Y cuando operas
a un ritmo más rápido que tus adversarios,

133
00:08:57,453 --> 00:09:01,165
eso es extraordinariamente
gran ventaja en la batalla.

134
00:09:03,960 --> 00:09:06,254
[hombre 5] En qué nos centramos en lo que se refiere
a la autonomía

135
00:09:07,255 --> 00:09:09,882
Son sistemas de inteligencia altamente resilientes.

136
00:09:09,966 --> 00:09:11,968
[zumbido]

137
00:09:12,051 --> 00:09:15,304
Sistemas que pueden leer y reaccionar.
en función de su entorno,

138
00:09:15,805 --> 00:09:19,642
y tomar decisiones
sobre cómo maniobrar en ese mundo.

139
00:09:24,981 --> 00:09:29,151
Las instalaciones en las que nos encontramos hoy
Fue construido originalmente como un estudio de cine.

140
00:09:29,235 --> 00:09:30,611
que fue convertido

141
00:09:30,695 --> 00:09:34,156
para permitir estos realistas
entornos de entrenamiento militar.

142
00:09:35,491 --> 00:09:37,994
[suena música siniestra]

143
00:09:39,495 --> 00:09:43,291
Estamos aquí para evaluar nuestro piloto de IA.

144
00:09:44,625 --> 00:09:49,297
La misión busca amenazas.
Se trata de fuerzas de despeje.

145
00:09:49,380 --> 00:09:52,800
Puede tomar una decisión
sobre cómo atacar ese problema.

146
00:09:55,428 --> 00:09:59,390
[hombre 6] A esto lo llamamos "el embudo fatal".
Tienes que pasar por una puerta.

147
00:10:01,726 --> 00:10:03,311
Es donde somos más vulnerables.

148
00:10:03,811 --> 00:10:05,146
Éste tiene mejor pinta.

149
00:10:07,106 --> 00:10:10,151
[hombre 6] El Nova nos avisa,
¿Hay un tirador detrás de esa puerta?

150
00:10:10,818 --> 00:10:12,653
¿Hay una familia detrás de esa puerta?

151
00:10:15,114 --> 00:10:18,451
Nos permitirá tomar mejores decisiones
y mantener a las personas fuera de peligro.

152
00:10:27,293 --> 00:10:29,128
[suena música tensa]

153
00:10:47,730 --> 00:10:49,482
[la música se intensifica]

154
00:10:57,114 --> 00:10:59,367
[hombre 7] Usamos los sensores de visión.

155
00:10:59,450 --> 00:11:03,162
para poder llegar a comprender
de cómo se ve el medio ambiente.

156
00:11:04,997 --> 00:11:06,415
Es un edificio de varios pisos.

157
00:11:07,333 --> 00:11:08,334
Aquí está el mapa.

158
00:11:08,417 --> 00:11:11,671
Mientras estaba explorando,
Esto es lo que vi y dónde los vi.

159
00:11:16,967 --> 00:11:18,552
[la música va en aumento]

160
00:11:19,929 --> 00:11:22,098
[Brandon] Detector de personas. Eso es dulce.

161
00:11:22,181 --> 00:11:23,808
[la música tensa continúa]

162
00:11:23,891 --> 00:11:27,436
[hombre 7] Uno de los otros sensores
A bordo del Nova hay un escáner térmico.

163
00:11:27,520 --> 00:11:30,690
Si eso es 98,6 grados,
probablemente sea un humano.

164
00:11:32,358 --> 00:11:35,444
Las personas son consideradas amenazas.
hasta que se considere lo contrario.

165
00:11:38,906 --> 00:11:43,244
Se trata de eliminar la niebla de la guerra.
para tomar mejores decisiones.

166
00:11:43,327 --> 00:11:44,620
[la música aumenta]

167
00:11:44,704 --> 00:11:46,539
Y cuando miramos hacia el futuro,

168
00:11:47,039 --> 00:11:50,710
estamos escalando para construir equipos
de aviones autónomos.

169
00:11:50,793 --> 00:11:52,128
[la música va en aumento]

170
00:11:52,211 --> 00:11:53,671
[zumbido bajo]

171
00:11:53,754 --> 00:11:55,631
[hombre 7] Con vehículos autónomos,

172
00:11:55,715 --> 00:11:57,466
finalmente la persona le ha dicho,

173
00:11:57,550 --> 00:12:00,386
"Me gustaría que te fueras
del punto A al punto B."

174
00:12:00,469 --> 00:12:02,471
[zumbido bajo]

175
00:12:02,972 --> 00:12:06,475
Nuestros sistemas están siendo solicitados
no pasar del punto A al punto B,

176
00:12:06,559 --> 00:12:08,477
sino para lograr un objetivo.

177
00:12:08,561 --> 00:12:10,229
[suena música críptica]

178
00:12:10,312 --> 00:12:13,190
Es más parecido a "Necesito leche".

179
00:12:13,274 --> 00:12:17,486
Y entonces el robot tendría que
averiguar a qué tienda de comestibles ir,

180
00:12:17,570 --> 00:12:20,239
poder recuperar esa leche,
y luego traerlo de vuelta.

181
00:12:20,740 --> 00:12:22,074
Y más aún,

182
00:12:22,158 --> 00:12:27,037
puede decirse más apropiadamente como,
"Mantenga el refrigerador abastecido".

183
00:12:27,538 --> 00:12:29,457
Y entonces, este es un nivel de inteligencia.

184
00:12:29,540 --> 00:12:32,168
en términos de descubrir lo que necesitamos
y cómo lo hacemos.

185
00:12:32,251 --> 00:12:34,253
Y si hay un desafío o un problema,

186
00:12:34,336 --> 00:12:37,381
o surge un problema,
descubrir cómo mitigar eso.

187
00:12:37,465 --> 00:12:39,467
[la música críptica continúa]

188
00:12:40,801 --> 00:12:45,431
[Brandon] Cuando tomé la decisión
dejar la Marina, comencé a pensar,

189
00:12:45,514 --> 00:12:47,558
"Está bien. Bueno, ¿qué sigue?"

190
00:12:47,641 --> 00:12:49,059
[suena la campana]

191
00:12:49,143 --> 00:12:52,021
Crecí con Internet.
Vi en qué se convirtió.

192
00:12:53,189 --> 00:12:55,608
Y parte de la conclusión.
a lo que había llegado era...

193
00:12:56,108 --> 00:12:58,861
IA en 2015

194
00:12:58,944 --> 00:13:02,907
era realmente donde estaba Internet en 1991.

195
00:13:04,033 --> 00:13:06,285
Y la IA estaba lista para despegar

196
00:13:06,368 --> 00:13:09,747
y ser uno de los más
tecnologías más poderosas del mundo.

197
00:13:11,791 --> 00:13:16,212
Trabajando con él todos los días,
Puedo ver el progreso que se está logrando.

198
00:13:19,048 --> 00:13:22,051
Pero para mucha gente,
cuando piensan en "IA",

199
00:13:22,551 --> 00:13:25,221
sus mentes van inmediatamente a Hollywood.

200
00:13:25,304 --> 00:13:27,556
[pitido]

201
00:13:28,057 --> 00:13:29,975
[voz de computadora] <i>¿Jugamos un juego?</i>

202
00:13:30,059 --> 00:13:35,314
¿Qué tal la Guerra Termonuclear Global?

203
00:13:35,898 --> 00:13:36,816
<i>Bien.</i>

204
00:13:36,899 --> 00:13:38,234
[suena música dramática]

205
00:13:38,317 --> 00:13:40,861
[hombre 8] Cuando la gente piensa
de la inteligencia artificial en general,

206
00:13:40,945 --> 00:13:44,824
podrían pensar en <i>Terminator.</i>
O <i>Yo, Robot.</i>

207
00:13:45,574 --> 00:13:46,700
Desactivar.

208
00:13:46,784 --> 00:13:48,160
¿Qué soy yo?

209
00:13:48,244 --> 00:13:49,620
[hombre 8] O <i>Matrix.</i>

210
00:13:51,080 --> 00:13:53,749
Basado en lo que ves
en las películas de ciencia ficción,

211
00:13:53,833 --> 00:13:57,878
¿Cómo sabes que soy un humano?
Podría ser simplemente una IA generada por computadora.

212
00:13:58,379 --> 00:14:02,132
Los replicantes son como cualquier otra máquina.
Son un beneficio o un peligro.

213
00:14:02,675 --> 00:14:06,095
[Andrew] Pero hay de todo tipo
de IA más primitivas,

214
00:14:06,178 --> 00:14:08,097
que todavía van a cambiar nuestras vidas

215
00:14:08,180 --> 00:14:11,851
mucho antes de llegar
la etapa del robot pensante y parlante.

216
00:14:12,643 --> 00:14:15,771
[mujer 3] Los robots están aquí.
Los robots están tomando decisiones.

217
00:14:15,855 --> 00:14:18,816
La revolución de los robots ha llegado,

218
00:14:18,899 --> 00:14:22,319
es solo que no parece
lo que cualquiera imaginó.

219
00:14:23,320 --> 00:14:25,489
[personaje de la película] <i>Terminator
una unidad de infiltración.</i>

220
00:14:25,573 --> 00:14:26,740
<i>Parte hombre, mitad máquina.</i>

221
00:14:27,950 --> 00:14:31,370
[hombre 9] No estamos hablando de
un robot asesino al estilo Terminator.

222
00:14:31,871 --> 00:14:35,958
Estamos hablando de IA
que pueden realizar algunas tareas que los humanos pueden realizar.

223
00:14:36,041 --> 00:14:39,879
Pero la preocupación es
si estos sistemas son confiables.

224
00:14:40,462 --> 00:14:45,426
[reportero 1] <i>Nuevos detalles en el reportero de anoche
accidente que involucró a un SUV Uber autónomo.</i>

225
00:14:45,509 --> 00:14:48,762
La empresa creada
un chatbot de inteligencia artificial.

226
00:14:48,846 --> 00:14:51,181
<i>Ella adoptó un tono bastante racista...</i>

227
00:14:51,265 --> 00:14:55,394
[reportero 2] <i>Veintiséis legisladores estatales
identificados falsamente como delincuentes.</i>

228
00:14:57,438 --> 00:15:02,026
La pregunta es si podrán manejar
las complejidades del mundo real.

229
00:15:02,109 --> 00:15:03,110
[pájaros cantando]

230
00:15:03,944 --> 00:15:06,238
[suena música sombría]

231
00:15:22,212 --> 00:15:24,423
[hombre 10] El mundo físico
Es realmente complicado.

232
00:15:25,174 --> 00:15:27,426
Hay muchas cosas que no sabemos,

233
00:15:27,968 --> 00:15:30,763
lo que hace mucho más difícil entrenar sistemas de IA.

234
00:15:30,846 --> 00:15:33,015
[suena música alegre]

235
00:15:33,098 --> 00:15:36,977
Ahí es donde los sistemas de aprendizaje automático
han empezado a entrar.

236
00:15:38,520 --> 00:15:41,440
[hombre 11] Aprendizaje automático
ha sido un gran avance

237
00:15:42,024 --> 00:15:45,611
porque significa que no tenemos
para enseñarle todo a las computadoras.

238
00:15:45,694 --> 00:15:47,821
[la música se intensifica]

239
00:15:47,905 --> 00:15:52,409
En realidad le das una computadora
millones de piezas de información,

240
00:15:52,493 --> 00:15:54,453
y la máquina comienza a aprender.

241
00:15:55,245 --> 00:15:57,289
Y eso se podría aplicar a cualquier cosa.

242
00:16:00,250 --> 00:16:02,962
[Pulkit] Nuestro proyecto Perro Robot,
estamos tratando de mostrar

243
00:16:03,045 --> 00:16:09,009
que nuestro perro pueda cruzar
muchos, muchos terrenos diversos.

244
00:16:10,052 --> 00:16:14,098
Los humanos hemos evolucionado.
durante miles de millones de años para caminar,

245
00:16:14,932 --> 00:16:20,688
pero hay mucha inteligencia
en adaptarse a estos diferentes terrenos.

246
00:16:21,939 --> 00:16:24,316
La pregunta sigue siendo
para sistemas robóticos es,

247
00:16:24,400 --> 00:16:27,069
¿Podrían también adaptarse?
¿Como los animales y los humanos?

248
00:16:30,656 --> 00:16:32,157
[la música va en aumento]

249
00:16:33,826 --> 00:16:35,869
[suena música críptica]

250
00:16:35,953 --> 00:16:37,413
Con el aprendizaje automático,

251
00:16:37,496 --> 00:16:40,582
recogemos montones y montones
de datos en simulación.

252
00:16:42,668 --> 00:16:45,838
Una simulación es un gemelo digital de la realidad.

253
00:16:46,588 --> 00:16:52,052
Podemos tener muchos ejemplos de esa realidad.
ejecutándose en diferentes computadoras.

254
00:16:53,178 --> 00:16:56,974
Muestra miles de acciones.
en simulación.

255
00:16:58,892 --> 00:17:02,229
El terreno que están encontrando
tiene diferente resbaladiza.

256
00:17:02,312 --> 00:17:03,856
Tiene diferente suavidad.

257
00:17:04,898 --> 00:17:08,318
Llevamos toda la experiencia.
de estos miles de robots

258
00:17:08,402 --> 00:17:13,282
de la simulación y descargar esto
en un sistema robótico real.

259
00:17:15,492 --> 00:17:20,039
La prueba que vamos a hacer hoy.
Es ver si puede adaptarse a nuevos terrenos.

260
00:17:21,206 --> 00:17:23,208
[suena música tensa]

261
00:17:38,015 --> 00:17:40,017
[la música tensa continúa]

262
00:17:53,322 --> 00:17:55,491
Cuando el robot estaba pasando por la espuma,

263
00:17:55,574 --> 00:17:58,577
los movimientos de los pies
estaban pisoteando el suelo.

264
00:17:59,369 --> 00:18:02,206
En comparación con esta superficie de poliéster,

265
00:18:03,248 --> 00:18:06,460
estaba tratando de ajustar el movimiento,
para que no se resbale.

266
00:18:08,670 --> 00:18:10,672
Entonces es cuando te das cuenta,

267
00:18:10,756 --> 00:18:14,051
"Esto es lo que hace el aprendizaje automático
está trayendo a la mesa."

268
00:18:22,476 --> 00:18:24,478
[suena música críptica]

269
00:18:34,488 --> 00:18:35,864
[lloriqueando]

270
00:18:41,161 --> 00:18:44,123
Pensamos en el Perro Robot
podría ser realmente útil

271
00:18:44,206 --> 00:18:46,166
en escenarios de respuesta a desastres

272
00:18:46,250 --> 00:18:49,670
donde necesitas navegar
muchos tipos diferentes de terreno.

273
00:18:52,631 --> 00:18:57,427
O poner a estos perros a hacer vigilancia.
en ambientes hostiles.

274
00:18:57,970 --> 00:19:00,264
[la música críptica continúa]

275
00:19:12,317 --> 00:19:13,819
[la música va en aumento]

276
00:19:15,696 --> 00:19:19,575
Pero la mayoría de la tecnología
se topa con el desafío

277
00:19:19,658 --> 00:19:22,369
que hay algo bueno que pueden hacer,
y hay algo malo.

278
00:19:22,452 --> 00:19:23,996
[suena música sombría]

279
00:19:24,079 --> 00:19:27,875
Por ejemplo,
Podemos utilizar la tecnología nuclear para obtener energía...

280
00:19:30,419 --> 00:19:33,797
pero también podríamos desarrollar bombas atómicas.
que son realmente malos.

281
00:19:35,090 --> 00:19:38,468
esto es lo que se sabe
como el problema del doble uso.

282
00:19:39,052 --> 00:19:40,929
El fuego tiene un doble uso.

283
00:19:41,722 --> 00:19:44,308
La inteligencia humana tiene un doble uso.

284
00:19:44,391 --> 00:19:48,645
Entonces, no hace falta decirlo,
La inteligencia artificial también es de doble uso.

285
00:19:49,354 --> 00:19:53,984
es realmente importante
pensar en la IA utilizada en contexto

286
00:19:54,693 --> 00:19:59,114
porque si, es genial
tener un robot de búsqueda y rescate

287
00:19:59,198 --> 00:20:02,284
que puede ayudar a localizar a alguien
después de una avalancha,

288
00:20:02,868 --> 00:20:05,871
pero ese mismo robot puede convertirse en un arma.

289
00:20:05,954 --> 00:20:07,080
[la música aumenta]

290
00:20:08,457 --> 00:20:09,457
[disparos]

291
00:20:15,088 --> 00:20:18,675
[Pulkit] Cuando ves empresas
usando robótica

292
00:20:18,759 --> 00:20:21,094
por ponerles armas armadas,

293
00:20:21,178 --> 00:20:22,930
una parte de ti se vuelve loca.

294
00:20:23,931 --> 00:20:28,435
Y una parte de ello es la realización
que cuando ponemos nuestra tecnología,

295
00:20:28,518 --> 00:20:30,103
esto es lo que va a pasar.

296
00:20:31,021 --> 00:20:34,441
[mujer 4] Esto es real
tecnología transformadora.

297
00:20:34,524 --> 00:20:36,151
[la música sombría continúa]

298
00:20:36,235 --> 00:20:38,028
Estos son sistemas de armas.

299
00:20:38,111 --> 00:20:43,617
eso realmente podría cambiar
nuestra seguridad y protección de una manera dramática.

300
00:20:43,700 --> 00:20:45,035
[la música va en aumento]

301
00:20:46,161 --> 00:20:51,500
Por ahora no estamos seguros
que las máquinas realmente pueden hacer

302
00:20:51,583 --> 00:20:54,962
la distinción
entre civiles y combatientes.

303
00:20:55,045 --> 00:20:57,047
[suena música sombría]

304
00:20:57,130 --> 00:20:59,591
[voces confusas]

305
00:21:01,802 --> 00:21:05,597
[Paul] Al principio de la guerra en Afganistán,
Yo era parte de un equipo de francotiradores del ejército.

306
00:21:05,681 --> 00:21:08,016
buscando combatientes enemigos
cruzando la frontera.

307
00:21:09,685 --> 00:21:12,521
Y enviaron a una niña
para explorar nuestra posición.

308
00:21:13,939 --> 00:21:17,067
Una cosa que nunca surgió
Fue la idea de dispararle a esta chica.

309
00:21:18,193 --> 00:21:19,611
[niños chillando]

310
00:21:19,695 --> 00:21:22,864
Según las leyes de la guerra,
eso hubiera sido legal.

311
00:21:22,948 --> 00:21:24,866
[charla confusa]

312
00:21:24,950 --> 00:21:27,369
No ponen una edad
para los combatientes enemigos.

313
00:21:29,079 --> 00:21:33,417
Si construyeras un robot
cumplir perfectamente con el derecho de la guerra,

314
00:21:33,500 --> 00:21:35,335
Le habría disparado a esta niña.

315
00:21:36,420 --> 00:21:41,091
¿Cómo sabría un robot la diferencia?
entre lo que es legal y lo que es correcto?

316
00:21:41,174 --> 00:21:42,342
[charla confusa]

317
00:21:42,426 --> 00:21:43,302
[pitido]

318
00:21:43,385 --> 00:21:46,054
[hombre 12] Cuando se trata de
guerra autónoma con drones,

319
00:21:46,138 --> 00:21:49,933
quieren quitar el daño
que impone a los soldados americanos

320
00:21:50,017 --> 00:21:51,935
y la psique americana,

321
00:21:52,019 --> 00:21:57,149
uh, pero el aumento del daño a civiles
termina con los afganos,

322
00:21:57,232 --> 00:21:58,775
y los iraquíes y los somalíes.

323
00:21:58,859 --> 00:22:00,944
[suena música sombría]

324
00:22:01,445 --> 00:22:03,196
[charla confusa]

325
00:22:09,619 --> 00:22:14,416
Realmente le preguntaría a aquellos que apoyan
confiar en la IA para su uso en drones,

326
00:22:15,375 --> 00:22:18,211
"¿Qué pasaría si tu pueblo fuera
¿En el lado receptor de eso?

327
00:22:19,338 --> 00:22:20,338
[pitido]

328
00:22:23,550 --> 00:22:25,635
[hombre 13] La IA es un arma de doble filo.

329
00:22:26,595 --> 00:22:30,724
Puede usarse para bien,
que es para lo que lo usaríamos normalmente,

330
00:22:31,558 --> 00:22:33,477
y con solo presionar un interruptor,

331
00:22:34,561 --> 00:22:38,023
la tecnología se vuelve potencialmente
algo que podría ser letal.

332
00:22:38,106 --> 00:22:40,108
[trueno retumba]

333
00:22:41,943 --> 00:22:43,945
[suena música críptica]

334
00:22:47,032 --> 00:22:48,533
Soy farmacólogo clínico.

335
00:22:49,618 --> 00:22:50,994
tengo un equipo de personas

336
00:22:51,078 --> 00:22:54,247
que utilizan inteligencia artificial
para descubrir las drogas

337
00:22:54,331 --> 00:22:57,751
que curará enfermedades
que no reciben ninguna atención.

338
00:22:59,711 --> 00:23:04,132
Solía ser con los descubrimientos de drogas,
tomarías una molécula que existiera,

339
00:23:04,216 --> 00:23:06,885
y hazle un ajuste a eso
para llegar a un nuevo medicamento.

340
00:23:08,261 --> 00:23:13,350
Y ahora hemos desarrollado IA
que puede alimentarnos con millones de ideas,

341
00:23:13,892 --> 00:23:15,227
millones de moléculas,

342
00:23:16,186 --> 00:23:19,231
y eso abre tantas posibilidades

343
00:23:19,314 --> 00:23:23,151
para tratar enfermedades
Nunca antes habíamos podido tratarlo.

344
00:23:25,153 --> 00:23:28,448
Pero definitivamente hay un lado oscuro
que nunca he pensado

345
00:23:28,532 --> 00:23:29,741
al que iría.

346
00:23:30,742 --> 00:23:33,078
[suena música tensa]

347
00:23:33,161 --> 00:23:35,872
todo esto empezó
cuando me invitaron

348
00:23:35,956 --> 00:23:40,043
por una organización fuera de Suiza
llamado Laboratorio Spiez

349
00:23:40,544 --> 00:23:44,423
para hacer una presentación
sobre el posible uso indebido de la IA.

350
00:23:45,507 --> 00:23:47,509
[la música se intensifica]

351
00:23:48,343 --> 00:23:51,221
[hombre 14] Sean me acaba de enviar un correo electrónico
con algunas ideas

352
00:23:51,304 --> 00:23:55,308
de algunas formas en las que podríamos hacer un mal uso
nuestra propia inteligencia artificial.

353
00:23:56,059 --> 00:24:00,355
Y en lugar de preguntarle a nuestro modelo
para crear moléculas similares a las drogas,

354
00:24:00,439 --> 00:24:02,274
que podría usarse para tratar enfermedades,

355
00:24:02,774 --> 00:24:06,403
veamos si podemos generar
las moléculas más tóxicas posibles.

356
00:24:06,486 --> 00:24:08,447
[suena música sombría]

357
00:24:10,198 --> 00:24:13,243
[Sean] Quería dejar claro el punto,
¿Podríamos utilizar la tecnología AI?

358
00:24:13,326 --> 00:24:15,203
¿Diseñar moléculas que fueran mortales?

359
00:24:17,414 --> 00:24:20,083
[Fabio] Y para ser honesto,
Pensamos que iba a fallar

360
00:24:20,167 --> 00:24:24,504
porque todo lo que realmente hicimos
Fue convertir este cero a uno.

361
00:24:26,715 --> 00:24:30,385
Y al invertirlo,
en lugar de alejarnos de la toxicidad,

362
00:24:30,469 --> 00:24:32,220
ahora nos dirigimos hacia la toxicidad.

363
00:24:32,721 --> 00:24:33,555
Y eso es todo.

364
00:24:33,638 --> 00:24:35,390
[la música se intensifica]

365
00:24:37,517 --> 00:24:40,729
Mientras estaba en casa,
la computadora estaba haciendo el trabajo.

366
00:24:41,521 --> 00:24:44,816
Quiero decir, estaba avanzando,
generando miles de moléculas,

367
00:24:45,650 --> 00:24:49,529
y no tuvimos que hacer nada
aparte de presionar "ir".

368
00:24:50,071 --> 00:24:51,406
[la música va en aumento]

369
00:24:52,532 --> 00:24:53,992
[pájaros cantando]

370
00:24:54,493 --> 00:24:58,330
[Fabio] A la mañana siguiente,
había este archivo en mi computadora,

371
00:24:59,080 --> 00:25:03,376
y dentro de ella
Había aproximadamente 40.000 moléculas.

372
00:25:03,460 --> 00:25:05,253
que eran potencialmente

373
00:25:05,337 --> 00:25:08,882
Algunas de las moléculas más tóxicas.
conocido por la humanidad.

374
00:25:08,965 --> 00:25:10,133
[suena música sombría]

375
00:25:10,217 --> 00:25:12,761
[Sean] Los pelos de mi nuca
se puso de punta.

376
00:25:13,386 --> 00:25:14,554
Me quedé impresionado.

377
00:25:15,388 --> 00:25:19,017
La computadora hizo
decenas de miles de ideas

378
00:25:19,100 --> 00:25:20,685
para nuevas armas químicas.

379
00:25:21,645 --> 00:25:26,274
Obviamente tenemos moléculas.
que se parecen y son análogos de VX y VX

380
00:25:26,775 --> 00:25:27,775
en el conjunto de datos.

381
00:25:28,360 --> 00:25:31,363
VX es uno de los más potentes.
armas químicas en el mundo.

382
00:25:31,863 --> 00:25:33,573
[reportero 3] <i>Nuevas afirmaciones de la policía</i>

383
00:25:33,657 --> 00:25:37,786
<i>que las mujeres vistas atacando a Kim Jong-nam
en este asesinato en el aeropuerto</i>

384
00:25:37,869 --> 00:25:41,248
<i>Estábamos usando un agente nervioso mortal llamado VX.</i>

385
00:25:41,748 --> 00:25:44,417
[Sean] Puede causar la muerte.
mediante asfixia.

386
00:25:45,043 --> 00:25:47,629
Esta es una molécula muy potente,

387
00:25:47,712 --> 00:25:52,092
y la mayoría de estas moléculas fueron predichas
ser incluso más mortal que el VX.

388
00:25:53,301 --> 00:25:56,972
[Fabio] Muchos de ellos nunca lo habían hecho,
Hasta donde sabemos, se ha visto antes.

389
00:25:57,472 --> 00:26:00,767
Y entonces, cuando Sean y yo nos dimos cuenta de esto,
somos como,

390
00:26:00,850 --> 00:26:02,727
"Oh, ¿qué hemos hecho?" [risas]

391
00:26:02,811 --> 00:26:04,688
[la música sombría continúa]

392
00:26:04,771 --> 00:26:09,192
[Sean] Rápidamente me di cuenta
que habíamos abierto la caja de Pandora,

393
00:26:09,901 --> 00:26:12,696
y dije: "Para".
No hagas nada más. Hemos terminado."

394
00:26:13,905 --> 00:26:17,158
"Sólo hazme las diapositivas
que necesito para la presentación."

395
00:26:19,202 --> 00:26:20,704
Cuando hicimos este experimento,

396
00:26:20,787 --> 00:26:23,873
Estaba pensando: "¿Qué es lo peor?
¿Eso podría suceder?"

397
00:26:26,251 --> 00:26:30,255
Pero ahora pienso: "Fuimos ingenuos.
Fuimos totalmente ingenuos al hacerlo".

398
00:26:31,339 --> 00:26:33,383
[la música se intensifica]

399
00:26:33,466 --> 00:26:36,928
Lo que más me aterroriza
es que cualquiera podría hacer lo que hicimos nosotros.

400
00:26:38,930 --> 00:26:40,765
Todo lo que se necesita es presionar un interruptor.

401
00:26:40,849 --> 00:26:42,851
[suena música sombría]

402
00:26:42,934 --> 00:26:46,187
¿Cómo controlamos?
esta tecnología antes de su uso

403
00:26:46,271 --> 00:26:50,942
potencialmente para hacer algo
¿Eso es completamente destructivo?

404
00:26:55,780 --> 00:27:00,285
[mujer 1] En el centro de la conversación
en torno a la inteligencia artificial

405
00:27:00,368 --> 00:27:03,538
y ¿cómo elegimos usarlo en la sociedad?

406
00:27:04,289 --> 00:27:08,835
es una carrera entre el poder,
con el que desarrollamos tecnologías,

407
00:27:08,918 --> 00:27:11,379
y la sabiduría que tenemos para gobernarlo.

408
00:27:11,463 --> 00:27:13,256
[la música sombría continúa]

409
00:27:13,340 --> 00:27:16,926
Hay lo obvio
implicaciones morales y éticas

410
00:27:17,010 --> 00:27:20,138
de lo mismo
que alimenta nuestros teléfonos inteligentes

411
00:27:20,221 --> 00:27:23,433
siendo confiado
con la decisión moral de quitarse la vida.

412
00:27:25,727 --> 00:27:31,191
Trabajo con el Future Of Life Institute,
una comunidad de científicos activistas.

413
00:27:31,733 --> 00:27:33,443
<i>En general, intentamos mostrar</i>

414
00:27:33,526 --> 00:27:38,698
<i>que existe este otro lado
para acelerar y escalar la automatización.</i>

415
00:27:38,782 --> 00:27:42,619
[Emilia] Pero estamos tratando de asegurarnos
que las tecnologías que creamos

416
00:27:42,702 --> 00:27:45,038
se utilizan de una manera
que sea seguro y ético.

417
00:27:46,247 --> 00:27:49,959
tengamos conversaciones
sobre las reglas de enfrentamiento,

418
00:27:50,043 --> 00:27:54,005
y códigos de conducta en el uso de la IA
en todos nuestros sistemas de armas.

419
00:27:54,798 --> 00:27:59,135
Porque ahora estamos viendo
Tecnologías para "entrar en el campo de batalla"

420
00:27:59,219 --> 00:28:01,680
que se puede utilizar para matar de forma autónoma.

421
00:28:02,263 --> 00:28:03,431
[pitido]

422
00:28:04,516 --> 00:28:05,684
[silbidos de cohetes]

423
00:28:05,767 --> 00:28:07,268
[explosión retumba]

424
00:28:10,230 --> 00:28:15,110
En 2021, la ONU publicó
un informe sobre el uso potencial

425
00:28:15,193 --> 00:28:19,364
de un arma letal autónoma
en el campo de batalla de Libia.

426
00:28:20,073 --> 00:28:23,910
[reportero 4] <i>Un panel de la ONU dijo que un dron
Volando en la guerra civil de Libia el año pasado</i>

427
00:28:23,993 --> 00:28:27,288
<i>había sido programado
para atacar objetivos de forma autónoma.</i>

428
00:28:28,289 --> 00:28:31,209
[Emilia] Si los informes de la ONU son precisos,

429
00:28:31,292 --> 00:28:34,963
esto seria
un momento decisivo para la humanidad.

430
00:28:35,046 --> 00:28:37,090
Porque marca un caso de uso

431
00:28:37,173 --> 00:28:42,137
donde una IA tomó la decisión
quitar una vida, y no un ser humano.

432
00:28:42,220 --> 00:28:44,180
[suena música dramática]

433
00:28:47,517 --> 00:28:48,517
[pitido]

434
00:28:49,686 --> 00:28:51,688
[Stacie] Estás viendo avanzado
armas autónomas

435
00:28:51,771 --> 00:28:55,150
empezando a ser usado
en diferentes lugares del mundo.

436
00:28:56,276 --> 00:28:58,278
Hubo informes desde Israel.

437
00:28:58,361 --> 00:29:00,196
[la música dramática continúa]

438
00:29:00,280 --> 00:29:05,702
Azerbaiyán utilizó sistemas autónomos.
atacar las defensas aéreas armenias.

439
00:29:07,370 --> 00:29:09,998
[Sean] <i>Puede volar
el campo de batalla durante horas,</i>

440
00:29:10,081 --> 00:29:12,500
<i>buscando cosas para golpear por sí solo,</i>

441
00:29:12,584 --> 00:29:16,087
<i>y luego chocar contra ellos
sin ningún tipo de intervención humana.</i>

442
00:29:16,755 --> 00:29:18,298
[Stacie] Y hemos visto recientemente

443
00:29:18,381 --> 00:29:21,760
estos diferentes videos
que se publican en Ucrania.

444
00:29:23,094 --> 00:29:26,890
[Paul] No está claro en qué modo podrían
estaban cuando estaban operando.

445
00:29:26,973 --> 00:29:30,393
¿Había un humano en el circuito?
elegir qué objetivos atacar,

446
00:29:30,477 --> 00:29:32,729
¿O la máquina lo hacía sola?

447
00:29:32,812 --> 00:29:36,524
Pero ciertamente habrá
llega un momento en el tiempo,

448
00:29:36,608 --> 00:29:40,195
si ya ha sucedido en Libia,
Ucrania o cualquier otro lugar,

449
00:29:40,278 --> 00:29:44,449
donde una máquina toma su propia decisión
sobre a quién matar en el campo de batalla.

450
00:29:44,532 --> 00:29:46,534
[la música va en aumento]

451
00:29:47,035 --> 00:29:50,997
[Izumi] Máquinas haciendo ejercicio.
poder letal contra los humanos

452
00:29:51,080 --> 00:29:53,374
sin intervención humana

453
00:29:53,458 --> 00:29:57,337
es políticamente inaceptable,
moralmente repugnante.

454
00:29:59,130 --> 00:30:01,299
Si la comunidad internacional

455
00:30:01,382 --> 00:30:05,011
será suficiente
para gobernar esos desafíos

456
00:30:05,094 --> 00:30:06,888
es un gran signo de interrogación.

457
00:30:06,971 --> 00:30:08,848
[suena música sombría]

458
00:30:08,932 --> 00:30:12,685
[Emilia] Si miramos hacia el futuro,
incluso dentro de unos pocos años,

459
00:30:12,769 --> 00:30:15,730
cómo se ve el paisaje
da mucho miedo,

460
00:30:16,564 --> 00:30:20,485
dado que la cantidad
de capital y recurso humano

461
00:30:20,568 --> 00:30:23,404
Haciendo que la IA sea más poderosa

462
00:30:23,488 --> 00:30:26,032
y usándolo
para todas estas diferentes aplicaciones,

463
00:30:26,115 --> 00:30:26,950
es inmenso.

464
00:30:27,033 --> 00:30:29,327
[suena música tensa]

465
00:30:33,373 --> 00:30:34,958
[charla confusa]

466
00:30:39,254 --> 00:30:41,214
Dios mío, este tipo.

467
00:30:41,756 --> 00:30:43,424
[Brandon] Él sabe que no puede ganar.

468
00:30:44,259 --> 00:30:46,678
Oh... [murmurando]

469
00:30:46,761 --> 00:30:51,099
Cuando veo que la IA gana en diferentes problemas,
Lo encuentro inspirador.

470
00:30:51,683 --> 00:30:53,977
Vamos a realizar una pequeña acción de Ave María.

471
00:30:54,477 --> 00:30:59,524
Y puedes aplicar esas mismas tácticas,
técnicas, procedimientos a aviones reales.

472
00:31:01,401 --> 00:31:04,404
- [amigo] Buen juego.
- [Brandon] Muy bien, buen juego. [risas]

473
00:31:06,948 --> 00:31:08,157
[suspiros]

474
00:31:08,658 --> 00:31:09,909
es sorprendente para mi

475
00:31:09,993 --> 00:31:14,122
que la gente siga haciendo declaraciones
sobre lo que la IA no puede hacer. ¿Bien?

476
00:31:14,205 --> 00:31:17,166
"Oh, nunca podrá
vencer a un campeón mundial de ajedrez".

477
00:31:17,250 --> 00:31:19,294
[suena música clásica tensa]

478
00:31:20,211 --> 00:31:22,672
[reportero 5] <i>Una computadora IBM
ha regresado</i>

479
00:31:22,755 --> 00:31:25,925
<i>en el Juego 2 de su partido
con el campeón mundial de ajedrez, Garry Kasparov.</i>

480
00:31:27,093 --> 00:31:30,889
[comentarista] <i>¡Vaya! ¡Kasparov ha dimitido!</i>

481
00:31:31,598 --> 00:31:34,642
[Kasporov] Cuando veo algo
eso está más allá de mi comprensión,

482
00:31:34,726 --> 00:31:38,062
Tengo miedo. Y eso fue algo
mucho más allá de mi comprensión.

483
00:31:39,355 --> 00:31:41,107
[Brandon] Y entonces la gente decía:

484
00:31:41,190 --> 00:31:44,402
"Nunca podrá vencer
un campeón mundial en el juego de Go."

485
00:31:44,485 --> 00:31:50,700
[Vaya campeón] Creo en la intuición humana.
Todavía está demasiado avanzado para A.I.

486
00:31:50,783 --> 00:31:52,827
haberse puesto al día.

487
00:31:53,411 --> 00:31:55,204
[la música tensa continúa]

488
00:31:55,288 --> 00:31:58,416
[hombre 15] Go es uno de los más
Juegos complicados que cualquiera puede aprender.

489
00:31:58,499 --> 00:32:02,211
porque el número de movimientos en el tablero,
cuando haces los cálculos,

490
00:32:02,295 --> 00:32:05,256
igual a más átomos
que los que hay en todo el universo.

491
00:32:06,799 --> 00:32:08,968
Había un equipo en Google
llamado mente profunda,

492
00:32:09,052 --> 00:32:11,471
y crearon un programa llamado AlphaGo

493
00:32:11,554 --> 00:32:14,265
para poder vencer
los mejores jugadores del mundo.

494
00:32:14,349 --> 00:32:16,476
[oficial] Vaya.

495
00:32:16,559 --> 00:32:18,394
Felicitaciones a...

496
00:32:18,478 --> 00:32:19,478
- AlfaGo.
- AlfaGo.

497
00:32:19,520 --> 00:32:22,774
un programa de computadora
Acaba de vencer a un profesional de 9 dan.

498
00:32:25,610 --> 00:32:31,532
[Brandon] Entonces DeepMind eligió <i>StarCraft</i>
como una especie de su próximo desafío de IA.

499
00:32:33,743 --> 00:32:38,081
<i>StarCraft</i> es quizás el más popular
El juego de estrategia en tiempo real de todos los tiempos.

500
00:32:40,333 --> 00:32:44,712
AlphaStar se hizo famoso
cuando empezó a derrotar a campeones del mundo.

501
00:32:45,338 --> 00:32:48,800
[host 1] <i>AlphaStar
Absolutamente aplastante Immortal Arc.</i>

502
00:32:48,883 --> 00:32:49,717
[anfitrión 2] <i>¿Sabes qué?</i>

503
00:32:49,801 --> 00:32:52,553
<i>Esto no va a ser una pelea
que los profesionales pueden ganar.</i>

504
00:32:53,680 --> 00:32:54,806
<i>Es algo ridículo.</i>

505
00:32:54,889 --> 00:32:57,558
[la música clásica tensa continúa]

506
00:32:57,642 --> 00:33:00,895
[Brandon] Los jugadores profesionales dicen:
"Nunca intentaría esa táctica".

507
00:33:00,979 --> 00:33:04,816
"Nunca intentaría esa estrategia.
Eso es algo que no es humano".

508
00:33:07,151 --> 00:33:10,655
And that was perhaps,
Ya sabes, el momento "ajá" para mí.

509
00:33:10,738 --> 00:33:12,657
[la música va en aumento]

510
00:33:13,574 --> 00:33:16,661
Me di cuenta de que el momento es ahora.

511
00:33:17,412 --> 00:33:21,082
Hay una tecnología importante.
y una oportunidad para marcar la diferencia.

512
00:33:21,165 --> 00:33:23,167
[suena música sombría]

513
00:33:24,502 --> 00:33:29,382
Sólo conocía los problemas que había enfrentado.
como SEAL en combate cuerpo a cuerpo,

514
00:33:30,383 --> 00:33:34,470
pero uno de mis buenos amigos,
quien era piloto de F-18, me dijo,

515
00:33:34,554 --> 00:33:37,724
"Tenemos el mismo problema
en la comunidad de aviones de combate."

516
00:33:37,807 --> 00:33:39,434
"Están interfiriendo las comunicaciones".

517
00:33:39,517 --> 00:33:42,562
"Han proliferado
sitios de misiles tierra-aire

518
00:33:42,645 --> 00:33:44,439
eso lo hace demasiado peligroso para operar".

519
00:33:47,483 --> 00:33:50,987
Imagínese si tuviéramos un avión de combate.
que estaba comandado por una IA.

520
00:33:51,070 --> 00:33:52,739
[anfitrión 3] <i>Bienvenido
a AlphaDogfights.</i>

521
00:33:52,822 --> 00:33:56,159
<i>Estamos a un par de minutos
de esta primera semifinal.</i>

522
00:33:56,242 --> 00:33:59,871
[Brandon] DARPA, la Defensa
Agencia de Proyectos de Investigación Avanzada,

523
00:33:59,954 --> 00:34:03,624
había visto AlphaGo y AlphaStar,

524
00:34:04,292 --> 00:34:08,171
y por eso esta idea del AlphaDogfight
La competencia cobró vida.

525
00:34:09,005 --> 00:34:11,466
[anfitrión 4] <i>Es lo que quieres ver
tus pilotos de combate sí.</i>

526
00:34:11,549 --> 00:34:13,634
[anfitrión 3] <i>Esto parece
peleas de perros humanos.</i>

527
00:34:13,718 --> 00:34:15,511
[suena música tensa]

528
00:34:15,595 --> 00:34:19,057
[Brandon] Las peleas de perros son
aviones caza contra caza acercándose a ello.

529
00:34:19,849 --> 00:34:22,852
Puedes pensar en ello
como un combate de boxeo en el cielo.

530
00:34:23,853 --> 00:34:26,314
Quizás la gente haya visto la película <i>Top Gun</i>.

531
00:34:26,397 --> 00:34:30,068
- [personaje] ¿Podemos dejar atrás a estos tipos?
- [Maverick] No sus misiles y armas.

532
00:34:30,151 --> 00:34:31,277
[personaje] Es una pelea de perros.

533
00:34:35,531 --> 00:34:39,410
[Brandon] Aprendiendo a dominar las peleas de perros
puede tardar de ocho a diez años.

534
00:34:42,288 --> 00:34:46,209
Es un desafío extremadamente complejo.
para construir IA.

535
00:34:47,043 --> 00:34:49,045
[suena música dramática]

536
00:34:49,128 --> 00:34:51,130
[tocando el teclado]

537
00:34:54,092 --> 00:34:58,679
Las aproximaciones previas a la autonomía
y las peleas de perros tendían a ser frágiles.

538
00:34:59,222 --> 00:35:03,017
[hombre 16] Pensamos que el aprendizaje automático era
Probablemente la forma de resolver este problema.

539
00:35:04,477 --> 00:35:08,189
Al principio, la IA no sabía nada.
sobre el mundo en el que se dejó caer.

540
00:35:08,272 --> 00:35:11,025
No sabía que estaba volando
o qué eran las peleas de perros.

541
00:35:11,109 --> 00:35:12,735
No sabía qué es un F-16.

542
00:35:13,236 --> 00:35:15,988
Todo lo que sabía
fueron las acciones disponibles que podría tomar,

543
00:35:16,072 --> 00:35:18,407
y comenzaría
para explorar aleatoriamente esas acciones.

544
00:35:19,325 --> 00:35:23,204
[colega] El avión azul ha estado entrenando.
sólo por un pequeño período de tiempo.

545
00:35:23,287 --> 00:35:25,832
Puedes verlo tambalearse hacia adelante y hacia atrás,

546
00:35:25,915 --> 00:35:30,545
uh, volando muy erráticamente,
generalmente lejos de su adversario.

547
00:35:31,587 --> 00:35:34,257
A medida que avanza la pelea,
podemos ver que el azul está comenzando

548
00:35:34,340 --> 00:35:36,134
establecer aquí su plan de juego.

549
00:35:36,759 --> 00:35:38,636
Está más en condiciones de disparar.

550
00:35:39,178 --> 00:35:41,305
De vez en cuando,
el algoritmo de aprendizaje dijo,

551
00:35:41,389 --> 00:35:43,891
"Aquí tienes una galleta.
Sigue haciendo más de eso".

552
00:35:45,143 --> 00:35:49,147
Podemos aprovechar la potencia de la computadora
y entrenar a los agentes muchas veces

553
00:35:49,230 --> 00:35:50,230
en paralelo.

554
00:35:51,357 --> 00:35:52,775
Es como un equipo de baloncesto.

555
00:35:53,276 --> 00:35:55,778
En lugar de jugar contra el mismo equipo
una y otra vez,

556
00:35:55,862 --> 00:35:59,198
estás viajando por el mundo
jugando 512 equipos diferentes,

557
00:35:59,699 --> 00:36:00,950
todo al mismo tiempo.

558
00:36:01,492 --> 00:36:03,452
Puedes llegar a ser muy bueno, muy rápido.

559
00:36:04,162 --> 00:36:07,456
Pudimos ejecutar esa simulación las 24 horas del día, los 7 días de la semana.

560
00:36:07,540 --> 00:36:11,919
y obtener algo así como 30 años
de tiempo de formación de pilotos en, en 10 meses.

561
00:36:12,003 --> 00:36:12,837
[la música aumenta]

562
00:36:12,920 --> 00:36:15,673
Pasamos de apenas poder
para controlar el avión

563
00:36:15,756 --> 00:36:17,717
a ser un asesino frío como una piedra.

564
00:36:19,010 --> 00:36:23,514
Durante el entrenamiento, competíamos sólo
contra otras inteligencias artificiales.

565
00:36:24,473 --> 00:36:28,561
Pero competir directamente contra los humanos
era una especie de objetivo final.

566
00:36:34,192 --> 00:36:35,610
Mi nombre es Mike Benítez.

567
00:36:36,110 --> 00:36:38,362
soy teniente coronel
en la Fuerza Aérea de EE.UU.

568
00:36:39,155 --> 00:36:41,157
Ha estado en servicio activo unos 25 años.

569
00:36:42,825 --> 00:36:44,869
Tengo 250 misiones de combate.

570
00:36:45,578 --> 00:36:47,538
y soy un graduado de la escuela de armas,

571
00:36:48,039 --> 00:36:49,832
que es la versión de la Fuerza Aérea de <i>Top Gun.</i>

572
00:36:52,627 --> 00:36:55,171
En realidad, nunca he volado contra la IA.

573
00:36:55,254 --> 00:36:58,549
entonces estoy muy emocionado
para ver qué tan bien puedo hacerlo.

574
00:36:59,634 --> 00:37:03,054
[Comandante] Ahora tenemos 6.000 pies.
configuración ofensiva nariz con nariz.

575
00:37:04,388 --> 00:37:05,223
La pelea está en marcha.

576
00:37:05,306 --> 00:37:06,724
[suena música tensa]

577
00:37:06,807 --> 00:37:08,309
[aire corriendo]

578
00:37:09,852 --> 00:37:10,978
[disparo de ametralladora]

579
00:37:13,314 --> 00:37:14,314
Ya se fue.

580
00:37:14,732 --> 00:37:16,651
Sí, eso es realmente interesante.

581
00:37:16,734 --> 00:37:18,778
[murmurando indistintamente]

582
00:37:19,278 --> 00:37:20,696
[disparo de ametralladora]

583
00:37:20,780 --> 00:37:23,658
Muerto. Lo tengo. Victoria impecable.

584
00:37:23,741 --> 00:37:25,409
[riendo]

585
00:37:25,910 --> 00:37:27,453
Muy bien, segunda ronda.

586
00:37:27,536 --> 00:37:30,039
[la música tensa continúa]

587
00:37:31,290 --> 00:37:33,209
[disparo de ametralladora]

588
00:37:35,461 --> 00:37:40,466
Qué está haciendo la inteligencia artificial
está maniobrando con tal precisión,

589
00:37:40,967 --> 00:37:43,219
uh, que simplemente no puedo seguir el ritmo.

590
00:37:43,302 --> 00:37:44,679
[aire corriendo]

591
00:37:44,762 --> 00:37:46,013
[disparo de ametralladora]

592
00:37:46,847 --> 00:37:48,391
[aire corriendo]

593
00:37:48,474 --> 00:37:49,725
Directo a la fusión.

594
00:37:50,309 --> 00:37:51,894
Oh, ahora te has ido.

595
00:37:51,978 --> 00:37:53,062
[disparo de ametralladora]

596
00:37:53,145 --> 00:37:53,980
¡Lo tengo!

597
00:37:54,063 --> 00:37:55,063
Todavía me tienes.

598
00:37:55,523 --> 00:37:56,857
[reír]

599
00:37:58,567 --> 00:38:00,069
[Brett] La IA nunca tiene miedo.

600
00:38:00,736 --> 00:38:03,781
Hay un elemento emocional humano.
en la cabina una IA no lo tendrá.

601
00:38:03,864 --> 00:38:04,907
[la música sube]

602
00:38:04,991 --> 00:38:08,077
Una de las estrategias más interesantes.
nuestra IA desarrollada,

603
00:38:08,160 --> 00:38:10,121
Fue lo que llamamos el disparo en la cara.

604
00:38:10,621 --> 00:38:14,000
Normalmente un humano quiere disparar desde atrás.

605
00:38:14,083 --> 00:38:16,377
porque es dificil para ellos
para soltarte.

606
00:38:17,044 --> 00:38:20,381
No intentan disparos en la cara.
porque estás jugando al juego de la gallina.

607
00:38:20,464 --> 00:38:21,340
[pitido]

608
00:38:21,424 --> 00:38:25,511
Cuando nos enfrentamos,
3000 pies de distancia a 500 pies de distancia

609
00:38:25,594 --> 00:38:27,096
puede suceder en un abrir y cerrar de ojos.

610
00:38:27,596 --> 00:38:31,183
Corres un alto riesgo de chocar,
para que los humanos no lo intenten.

611
00:38:31,267 --> 00:38:32,393
[tono agudo]

612
00:38:32,893 --> 00:38:35,938
La IA, a menos que se le diga que tema a la muerte,
No temerás a la muerte.

613
00:38:36,022 --> 00:38:37,023
[disparo de ametralladora]

614
00:38:37,106 --> 00:38:40,693
[Mike] Todo bien. se siente como
Estoy luchando contra un humano, eh,

615
00:38:40,776 --> 00:38:44,113
un humano que tiene un abandono imprudente
por seguridad. [risas]

616
00:38:45,489 --> 00:38:47,325
No sobrevivirá a este último.

617
00:38:48,284 --> 00:38:49,869
[aire corriendo]

618
00:38:50,369 --> 00:38:52,038
[la música tensa continúa]

619
00:38:54,790 --> 00:38:56,292
[silbido del viento]

620
00:38:57,168 --> 00:38:58,461
No tiene suficiente tiempo.

621
00:39:00,629 --> 00:39:01,629
¡Ah!

622
00:39:01,964 --> 00:39:02,965
[Brett] Buenas noches.

623
00:39:03,049 --> 00:39:04,049
[pitido]

624
00:39:04,091 --> 00:39:05,091
[Mike] Estoy muerto.

625
00:39:16,812 --> 00:39:17,980
Es humillante saber

626
00:39:18,064 --> 00:39:20,983
que tal vez ni siquiera sea
lo mejor para esta misión,

627
00:39:21,484 --> 00:39:24,320
y esa cosa podría ser algo
que algún día me reemplace.

628
00:39:25,696 --> 00:39:26,989
[colega] Mismo 6 CAV.

629
00:39:27,615 --> 00:39:28,866
Mil compensaciones.

630
00:39:29,367 --> 00:39:32,078
[Brandon] Con este piloto de IA
comandante de aviones de combate,

631
00:39:32,828 --> 00:39:34,830
la victoria es implacable, es dominante.

632
00:39:34,914 --> 00:39:37,249
No se trata sólo de ganar por amplio margen.

633
00:39:37,333 --> 00:39:41,545
Es, "Está bien, ¿cómo podemos conseguir eso?".
en nuestro avión?" Es así de poderoso.

634
00:39:41,629 --> 00:39:43,589
[suena música melódica]

635
00:39:43,672 --> 00:39:47,802
[Nathan] Es realista esperar
que AI pilotará un F-16,

636
00:39:47,885 --> 00:39:49,970
y no será tan lejano.

637
00:39:51,305 --> 00:39:56,769
[Brandon] Si vas a enfrentarte
un piloto de IA que tiene una tasa de victorias del 99,99999%,

638
00:39:56,852 --> 00:39:58,062
no tienes ninguna posibilidad.

639
00:39:58,145 --> 00:39:59,522
[suena música tensa]

640
00:39:59,605 --> 00:40:02,733
cuando pienso en
un piloto de IA es imbatible,

641
00:40:02,817 --> 00:40:06,779
Pienso en lo que un equipo de 50 o 100 personas

642
00:40:07,279 --> 00:40:12,535
o 1.000 pilotos de IA
puede seguir logrando.

643
00:40:13,702 --> 00:40:17,415
El enjambre es un equipo
de aviones altamente inteligentes

644
00:40:17,498 --> 00:40:18,791
que funcionan entre sí.

645
00:40:19,291 --> 00:40:23,462
Están compartiendo información sobre
qué hacer, cómo resolver un problema.

646
00:40:23,546 --> 00:40:24,588
[pitido]

647
00:40:25,172 --> 00:40:30,469
El enjambre cambiará las reglas del juego
y capacidad transformacional

648
00:40:30,553 --> 00:40:32,638
a nuestros militares y a nuestros aliados.

649
00:40:33,139 --> 00:40:35,433
[gorrillos cantando]

650
00:40:35,516 --> 00:40:37,852
[suena música dramática]

651
00:40:44,316 --> 00:40:45,818
[la música se intensifica]

652
00:41:04,920 --> 00:41:07,256
[música de radio apagada]

653
00:41:12,553 --> 00:41:14,346
[suena música tensa]

654
00:41:19,643 --> 00:41:21,061
[silbido del viento]

655
00:41:21,145 --> 00:41:22,145
[zumbido]

656
00:41:25,608 --> 00:41:27,318
[camión acelerando]

657
00:41:27,401 --> 00:41:28,486
[la música aumenta]

658
00:41:42,750 --> 00:41:47,379
[controlador] <i>El objetivo ha sido adquirido,
y los drones lo están siguiendo.</i>

659
00:41:56,722 --> 00:41:58,057
[la música va en aumento]

660
00:42:01,936 --> 00:42:03,604
[controlador] Aquí viene la tierra.

661
00:42:07,566 --> 00:42:10,402
[hombre 17] Objetivo principal
de la gran cantidad de investigaciones en las que estamos trabajando

662
00:42:11,153 --> 00:42:13,697
es desplegar una gran cantidad de drones

663
00:42:13,781 --> 00:42:17,910
sobre una zona de difícil acceso
o peligroso llegar a él.

664
00:42:17,993 --> 00:42:19,995
[suena música críptica]

665
00:42:20,079 --> 00:42:21,622
[zumbido]

666
00:42:21,705 --> 00:42:26,085
El Laboratorio de Investigación del Ejército ha estado apoyando
este proyecto de investigación en particular.

667
00:42:26,919 --> 00:42:28,963
Si quieres saber qué hay en una ubicación,

668
00:42:29,046 --> 00:42:32,883
pero es difícil llegar a esa zona,
o es un área muy grande,

669
00:42:33,676 --> 00:42:35,886
luego desplegando un enjambre
es una manera muy natural

670
00:42:35,970 --> 00:42:38,389
para ampliar el alcance de las personas

671
00:42:38,472 --> 00:42:41,934
y recopilar información
eso es fundamental para la misión.

672
00:42:42,935 --> 00:42:44,770
[la música se intensifica]

673
00:42:46,689 --> 00:42:48,983
Entonces, ahora mismo en nuestro despliegue de enjambre,

674
00:42:49,066 --> 00:42:53,988
esencialmente damos un solo comando
para seguir el objetivo de interés.

675
00:42:54,488 --> 00:42:57,283
Entonces los drones van
y hacer todo eso por su cuenta.

676
00:42:59,493 --> 00:43:04,081
La inteligencia artificial permite
los robots se muevan colectivamente como un enjambre

677
00:43:04,164 --> 00:43:05,708
de manera descentralizada.

678
00:43:06,792 --> 00:43:08,877
[suena música melódica]

679
00:43:10,671 --> 00:43:12,506
En los enjambres en la naturaleza que vemos,

680
00:43:13,299 --> 00:43:18,178
no hay jefe,
ningún animal principal les dice qué hacer.

681
00:43:20,556 --> 00:43:25,019
El comportamiento está surgiendo.
de cada animal individual

682
00:43:25,102 --> 00:43:27,104
siguiendo algunas reglas simples.

683
00:43:27,688 --> 00:43:32,443
Y de ahí surge este emergente
comportamiento colectivo que ves.

684
00:43:32,526 --> 00:43:33,861
[zumbido]

685
00:43:33,944 --> 00:43:37,031
¿Qué es impresionante?
sobre enjambres en la naturaleza

686
00:43:37,114 --> 00:43:39,992
es la elegante habilidad
en el que se mueven.

687
00:43:40,576 --> 00:43:44,288
Es como si estuvieran construidos
ser parte de este grupo.

688
00:43:46,790 --> 00:43:51,128
Idealmente, lo que nos encantaría ver.
con nuestro enjambre de drones es,

689
00:43:51,211 --> 00:43:53,172
muy parecido al enjambre de la naturaleza,

690
00:43:53,672 --> 00:43:56,717
decisiones que se toman
por el grupo colectivamente.

691
00:43:56,800 --> 00:43:59,428
[la música melódica continúa]

692
00:43:59,928 --> 00:44:02,765
La otra pieza de inspiración para nosotros.

693
00:44:02,848 --> 00:44:06,268
viene en la forma
de confiabilidad y resiliencia.

694
00:44:07,311 --> 00:44:09,188
Ese enjambre no bajará

695
00:44:09,271 --> 00:44:13,567
si un animal individual
no hace lo que se supone que debe hacer.

696
00:44:13,651 --> 00:44:15,110
[zumbido]

697
00:44:15,194 --> 00:44:18,697
Incluso si uno de los agentes se cae,
o falla,

698
00:44:18,781 --> 00:44:20,866
o no es capaz de completar la tarea,

699
00:44:21,909 --> 00:44:23,369
el enjambre continuará.

700
00:44:25,204 --> 00:44:27,873
Y en última instancia,
eso es lo que nos gustaría tener.

701
00:44:29,333 --> 00:44:33,879
Tenemos esta necesidad en escenarios de combate.
para identificar aviones enemigos,

702
00:44:33,962 --> 00:44:37,841
y solía ser que necesitábamos
una persona controlando un robot.

703
00:44:38,592 --> 00:44:40,552
A medida que aumenta la autonomía,

704
00:44:40,636 --> 00:44:43,555
Espero que podamos ver
una gran cantidad de robots

705
00:44:43,639 --> 00:44:46,558
siendo controlado
por un número muy reducido de personas.

706
00:44:47,851 --> 00:44:50,854
No veo ninguna razón por la que no podamos lograrlo.
mil eventualmente

707
00:44:51,355 --> 00:44:54,942
porque cada agente
podrá actuar por sí solo,

708
00:44:55,025 --> 00:44:56,443
y el cielo es el límite.

709
00:44:57,027 --> 00:44:59,071
Podemos escalar nuestro aprendizaje...

710
00:44:59,154 --> 00:45:03,325
[Justin B.] Hemos estado trabajando en el enjambre
en simulación desde hace bastante tiempo,

711
00:45:03,409 --> 00:45:06,829
y es hora de traer
eso a los aviones del mundo real.

712
00:45:07,454 --> 00:45:12,042
Esperamos estar haciendo
tres robots a la vez a través de la red,

713
00:45:12,126 --> 00:45:15,129
y luego comenzando
para agregar más y más capacidades.

714
00:45:15,879 --> 00:45:18,549
queremos poder
para probar eso en sistemas más pequeños,

715
00:45:18,632 --> 00:45:22,261
pero toma esos mismos conceptos
y aplicarlos a sistemas más grandes,

716
00:45:22,344 --> 00:45:23,679
como un avión de combate.

717
00:45:24,513 --> 00:45:26,014
[Brandon] Hablamos mucho sobre,

718
00:45:26,098 --> 00:45:31,937
¿Cómo se le da un pelotón?
¿El poder de combate de un batallón?

719
00:45:32,020 --> 00:45:33,939
[suena música dramática]

720
00:45:34,982 --> 00:45:39,528
O un batallón
¿El poder de combate de una brigada?

721
00:45:39,611 --> 00:45:41,488
Puedes hacer eso con enjambre.

722
00:45:42,614 --> 00:45:45,200
Y cuando puedes desbloquear
ese poder de enjambre,

723
00:45:45,284 --> 00:45:48,078
acabas de crear
una nueva disuasión estratégica

724
00:45:48,162 --> 00:45:49,455
a la agresión militar.

725
00:45:49,538 --> 00:45:52,249
[la música dramática continúa]

726
00:45:52,332 --> 00:45:57,004
[Bob] Creo que lo más emocionante
es el número de hombres y mujeres jóvenes

727
00:45:57,087 --> 00:46:00,299
a quien salvaremos
si realmente hacemos esto bien.

728
00:46:01,091 --> 00:46:03,594
Y intercambiamos máquinas

729
00:46:04,553 --> 00:46:05,846
en lugar de vidas humanas.

730
00:46:06,638 --> 00:46:10,893
Algunos sostienen que las armas autónomas
hará la guerra más precisa

731
00:46:10,976 --> 00:46:12,311
y más humano,

732
00:46:12,853 --> 00:46:15,397
pero en realidad es difícil de predecir

733
00:46:15,481 --> 00:46:19,443
exactamente cómo armas autónomas
podría cambiar la guerra antes de tiempo.

734
00:46:21,320 --> 00:46:23,238
es como el invento
de la ametralladora Gatling.

735
00:46:23,322 --> 00:46:24,990
[suena música sombría]

736
00:46:25,073 --> 00:46:26,700
Richard Gatling fue un inventor,

737
00:46:27,201 --> 00:46:30,954
y vio a los soldados regresar,
herido en la Guerra Civil,

738
00:46:32,289 --> 00:46:35,292
y quería encontrar maneras
hacer la guerra más humana.

739
00:46:36,293 --> 00:46:39,797
Para reducir el número de soldados.
que murieron en la guerra

740
00:46:40,422 --> 00:46:42,633
reduciendo el número
de soldados en la batalla.

741
00:46:42,716 --> 00:46:44,009
[la música aumenta]

742
00:46:44,092 --> 00:46:48,388
Y entonces inventó la ametralladora Gatling.
una pistola automatizada girada por una manivela

743
00:46:48,472 --> 00:46:50,516
que podría automatizar el proceso de disparo.

744
00:46:53,268 --> 00:46:57,981
Aumentó efectivamente cien veces
la potencia de fuego que los soldados podían entregar.

745
00:46:58,065 --> 00:47:00,734
[la música sombría continúa]

746
00:47:01,235 --> 00:47:05,239
A menudo, los esfuerzos por hacer la guerra
más preciso y humano...

747
00:47:05,322 --> 00:47:06,448
[suena música tensa]

748
00:47:06,532 --> 00:47:07,991
...puede tener el efecto contrario.

749
00:47:10,160 --> 00:47:13,455
[Arash] Piensa en el efecto.
de un ataque errante con drones

750
00:47:13,539 --> 00:47:14,540
en una zona rural

751
00:47:14,623 --> 00:47:17,209
que impulsa a la población local
contra los estados unidos,

752
00:47:17,292 --> 00:47:20,712
contra el gobierno local.
Ya sabes, supuestamente los buenos.

753
00:47:20,796 --> 00:47:22,506
[la música tensa continúa]

754
00:47:22,589 --> 00:47:25,008
Ahora magnifica eso en 1000.

755
00:47:26,718 --> 00:47:28,720
[Emilia] La creación de un sistema de armas.

756
00:47:28,804 --> 00:47:34,560
que sea barato, escalable,
y no requiere operadores humanos

757
00:47:34,643 --> 00:47:37,896
cambia drásticamente
las barreras reales al conflicto.

758
00:47:40,107 --> 00:47:44,486
Me mantiene despierto por la noche pensando
de un mundo donde la guerra es omnipresente,

759
00:47:44,987 --> 00:47:48,657
y ya no llevamos
El costo humano y financiero de la guerra.

760
00:47:48,740 --> 00:47:51,410
porque estamos muy lejos de...

761
00:47:52,369 --> 00:47:54,037
las vidas que se perderán.

762
00:47:55,038 --> 00:47:57,541
[suena una música melódica sombría]

763
00:47:59,459 --> 00:48:01,420
[Sean] Todo esto me persigue.

764
00:48:02,212 --> 00:48:05,924
solo necesitaba un ejemplo
del mal uso de la inteligencia artificial.

765
00:48:06,800 --> 00:48:10,888
Las consecuencias imprevistas
de hacer ese simple experimento mental

766
00:48:10,971 --> 00:48:12,848
han ido demasiado lejos.

767
00:48:17,352 --> 00:48:18,729
Cuando hice la presentación

768
00:48:18,812 --> 00:48:22,107
sobre las moléculas tóxicas
creado por tecnología de inteligencia artificial,

769
00:48:22,608 --> 00:48:24,318
El público se quedó boquiabierto.

770
00:48:29,406 --> 00:48:33,660
[Fabio] La siguiente decisión fue si
deberíamos publicar esta información.

771
00:48:34,912 --> 00:48:36,914
Por un lado, quieres advertir al mundo.

772
00:48:36,997 --> 00:48:40,125
de este tipo de capacidades,
pero por otro lado,

773
00:48:40,208 --> 00:48:44,087
no quieres darle a alguien la idea
si nunca lo hubieran tenido antes.

774
00:48:46,381 --> 00:48:48,133
Decidimos que valía la pena publicarlo.

775
00:48:48,216 --> 00:48:52,679
para tal vez encontrar algunas maneras
para mitigar el mal uso de este tipo de IA

776
00:48:52,763 --> 00:48:54,139
antes de que ocurra.

777
00:48:54,222 --> 00:48:56,224
[suena música sombría]

778
00:49:01,897 --> 00:49:04,775
La reacción del público en general.
Fue impactante.

779
00:49:04,858 --> 00:49:07,110
[suena música tensa]

780
00:49:07,194 --> 00:49:10,656
Podemos ver las métricas en la página,
cuántas personas han accedido a él.

781
00:49:10,739 --> 00:49:14,451
Los tipos de artículos que normalmente escribimos,
tenemos suerte si conseguimos...

782
00:49:14,534 --> 00:49:19,831
Unos miles de personas miran nuestro artículo.
durante un período de un año o varios años.

783
00:49:19,915 --> 00:49:22,084
Eran 10.000 personas.
Lo había leído en una semana.

784
00:49:22,167 --> 00:49:25,337
Entonces eran 20.000,
luego fueron 30.000, luego fueron 40.000,

785
00:49:25,837 --> 00:49:28,715
y éramos hasta 10.000 personas por día.

786
00:49:30,258 --> 00:49:33,512
[Sean] Hemos escrito <i>The Economist</i>.
el <i>Financial Times.</i>

787
00:49:35,639 --> 00:49:39,977
Radiolab, ya sabes, se acercaron.
¡He oído hablar de Radiolab!

788
00:49:40,060 --> 00:49:41,311
[la música va en aumento]

789
00:49:41,937 --> 00:49:45,899
Pero luego las reacciones cambiaron
en esta cosa que está fuera de control.

790
00:49:45,983 --> 00:49:48,235
[la música tensa continúa]

791
00:49:49,778 --> 00:49:53,532
Cuando miramos esos tweets, es como,
"Dios mío, ¿podrían hacer algo peor?"

792
00:49:54,324 --> 00:49:55,993
¿Por qué hicieron esto?

793
00:49:57,828 --> 00:49:59,329
[la música va en aumento]

794
00:50:01,164 --> 00:50:04,501
Y luego recibimos una invitación
Nunca lo hubiera anticipado.

795
00:50:04,584 --> 00:50:07,087
[suena música dramática]

796
00:50:08,797 --> 00:50:12,926
Hubo mucha discusión
dentro de la Casa Blanca sobre el artículo,

797
00:50:13,010 --> 00:50:15,345
y querían hablar con nosotros urgentemente.

798
00:50:18,849 --> 00:50:20,809
Obviamente, es un honor increíble.

799
00:50:20,892 --> 00:50:23,020
poder
hablar con gente de este nivel.

800
00:50:23,603 --> 00:50:25,272
Pero luego te golpea

801
00:50:25,355 --> 00:50:28,900
como, "Oh Dios mío,
es la Casa Blanca. El jefe."

802
00:50:29,693 --> 00:50:33,196
Esto implicó juntar
conjuntos de datos que eran de código abierto...

803
00:50:33,280 --> 00:50:37,701
<i>Y en unas seis horas, el modelo pudo
para generar alrededor de 40.000...</i>

804
00:50:37,784 --> 00:50:41,038
[Sean] Hicieron preguntas
sobre cuánta potencia informática necesitabas,

805
00:50:41,872 --> 00:50:43,832
y les dijimos que no era nada especial.

806
00:50:44,332 --> 00:50:48,211
Literalmente, un estándar común y corriente,
Mac, de seis años.

807
00:50:49,546 --> 00:50:51,256
Y eso los dejó atónitos.

808
00:50:52,049 --> 00:50:54,468
[la música dramática continúa]

809
00:50:54,968 --> 00:50:59,473
Las personas que están a cargo
de comprender los agentes de guerra química

810
00:50:59,556 --> 00:51:04,019
y agencias gubernamentales,
No tenían idea de este potencial.

811
00:51:04,102 --> 00:51:06,104
[la música se intensifica]

812
00:51:06,605 --> 00:51:09,816
Tenemos este libro de cocina.
para fabricar estas armas químicas,

813
00:51:10,650 --> 00:51:15,572
y en manos de un mal actor
que tiene malas intenciones

814
00:51:16,573 --> 00:51:18,992
podría ser absolutamente horrible.

815
00:51:19,534 --> 00:51:21,203
[suena música sombría]

816
00:51:21,703 --> 00:51:23,205
La gente tiene que sentarse y escuchar,

817
00:51:23,288 --> 00:51:26,458
y tenemos que tomar medidas
regular la tecnología

818
00:51:27,250 --> 00:51:30,670
o restringirlo de una manera
que no se puede abusar de él.

819
00:51:31,880 --> 00:51:35,175
Porque el potencial de letalidad...

820
00:51:36,176 --> 00:51:37,344
es aterrador.

821
00:51:40,680 --> 00:51:45,977
La cuestión de la ética de la IA
es abordado en gran medida por la sociedad,

822
00:51:46,561 --> 00:51:50,273
no por los ingenieros o tecnólogos,
los matemáticos.

823
00:51:51,608 --> 00:51:52,442
[pitido]

824
00:51:52,526 --> 00:51:56,822
Cada tecnología que presentamos,
cada nueva innovación,

825
00:51:56,905 --> 00:52:00,617
en última instancia cae bajo el ámbito de competencia
de cómo la sociedad cree que debemos usarlo.

826
00:52:00,700 --> 00:52:02,536
[suena música sombría]

827
00:52:03,036 --> 00:52:06,498
[Bob] Ahora mismo,
el Departamento de Defensa dice,

828
00:52:06,581 --> 00:52:09,960
"Lo único que está diciendo
vamos a matar algo

829
00:52:10,043 --> 00:52:11,920
En el campo de batalla hay un humano."

830
00:52:12,504 --> 00:52:14,548
Una máquina puede matar,

831
00:52:15,674 --> 00:52:18,927
pero sólo a instancias
de un operador humano,

832
00:52:19,636 --> 00:52:21,429
y no veo que eso cambie nunca.

833
00:52:21,513 --> 00:52:23,390
[la música sombría continúa]

834
00:52:24,808 --> 00:52:28,103
[Arash] Nos aseguran
que este tipo de tecnología será segura.

835
00:52:29,729 --> 00:52:33,692
Pero el ejército de los Estados Unidos simplemente
no tiene una reputación confiable

836
00:52:33,775 --> 00:52:35,485
con la guerra con drones.

837
00:52:36,820 --> 00:52:41,783
Y así, cuando llega
a confiar la IA al ejército estadounidense,

838
00:52:41,867 --> 00:52:45,036
Yo diría, ya sabes, el historial
habla por sí solo.

839
00:52:46,288 --> 00:52:50,125
[Paul] La política del Departamento de Defensa de Estados Unidos
sobre el uso de la autonomía en las armas

840
00:52:50,208 --> 00:52:52,919
no prohíbe ningún tipo de sistema de armas.

841
00:52:53,003 --> 00:52:56,715
E incluso si los militares
puede que no quiera armas autónomas,

842
00:52:56,798 --> 00:53:01,678
pudimos ver a los militares entregando
más decisiones a las máquinas

843
00:53:01,761 --> 00:53:03,680
sólo para seguir el ritmo de los competidores.

844
00:53:04,764 --> 00:53:08,351
Y eso podría impulsar a los militares
para automatizar decisiones

845
00:53:08,435 --> 00:53:09,978
que quizás no quieran hacerlo.

846
00:53:12,022 --> 00:53:13,440
[Bob] Vladimir Putin dijo:

847
00:53:13,523 --> 00:53:16,693
"Quien lidere en IA
va a gobernar el mundo."

848
00:53:17,736 --> 00:53:23,325
El presidente Xi ha dejado claro que la IA
es una de las tecnologías número uno

849
00:53:23,408 --> 00:53:25,702
que China quiere dominar.

850
00:53:26,786 --> 00:53:29,831
estamos claramente
en una competencia tecnológica.

851
00:53:33,418 --> 00:53:35,670
[Brandon] Se oye hablar a la gente.
sobre barandillas,

852
00:53:36,463 --> 00:53:39,424
y yo creo
eso es lo que la gente debería estar haciendo.

853
00:53:40,467 --> 00:53:45,180
Pero hay una carrera muy real.
por la superioridad de la IA.

854
00:53:45,263 --> 00:53:46,264
[pájaros cantando]

855
00:53:47,265 --> 00:53:51,603
Y nuestros adversarios, ya sea China,
ya sea Rusia, ya sea Irán,

856
00:53:52,187 --> 00:53:56,566
no voy a dar dos pensamientos
a lo que dice nuestra política sobre la IA.

857
00:53:57,943 --> 00:54:00,320
[pájaros cantando]

858
00:54:00,820 --> 00:54:04,324
Estás viendo muchas más conversaciones.
en torno a la política de IA,

859
00:54:06,117 --> 00:54:09,287
pero deseo más líderes
tendría la conversación

860
00:54:09,371 --> 00:54:11,706
diciendo: "Qué rápido
¿Podemos construir esto?

861
00:54:12,707 --> 00:54:15,168
Aprovechémoslo al máximo
y construirlo."

862
00:54:15,919 --> 00:54:17,462
[suena música dramática]

863
00:54:17,545 --> 00:54:18,838
[bocinazos]

864
00:54:24,177 --> 00:54:26,388
[charla confusa]

865
00:54:26,888 --> 00:54:29,057
[conversación inaudible]

866
00:54:29,557 --> 00:54:31,017
[pitido]

867
00:54:33,478 --> 00:54:38,358
Estamos en la Asociación de EE.UU.
La feria comercial más grande del año del ejército.

868
00:54:39,609 --> 00:54:44,572
Básicamente, cualquier vendedor que venda
un producto o tecnología en un ejército

869
00:54:44,656 --> 00:54:46,616
estará exponiendo.

870
00:54:47,659 --> 00:54:50,537
[hombre 18] La base de la fuerza aérea Tyndall
tiene cuatro de nuestros robots

871
00:54:50,620 --> 00:54:53,748
que patrullan su base
Las 24 horas del día, los 7 días de la semana.

872
00:54:55,750 --> 00:55:00,130
Podemos añadir de todo, desde cámaras.
a sensores a lo que necesites.

873
00:55:00,213 --> 00:55:05,135
Brazos manipuladores. De nuevo, sólo para completar
la misión que el cliente tiene en mente.

874
00:55:06,678 --> 00:55:08,638
[hombre 19] ¿Qué pasa si tu enemigo introduce IA?

875
00:55:09,431 --> 00:55:12,976
Un sistema de lucha que piensa
más rápido que tú, responde más rápido,

876
00:55:13,059 --> 00:55:16,062
de lo que puede hacer un ser humano?
Tenemos que estar preparados.

877
00:55:17,605 --> 00:55:21,359
Entrenamos nuestros sistemas
para recopilar información sobre el enemigo,

878
00:55:22,027 --> 00:55:26,531
gestionar objetivos enemigos
con humanos supervisando la cadena de destrucción.

879
00:55:27,115 --> 00:55:28,491
[la música va en aumento]

880
00:55:33,204 --> 00:55:34,956
- [Brandon] Hola, general.
- ¿Cómo estás?

881
00:55:35,040 --> 00:55:37,208
[Brandon] Bien, señor. ¿Cómo estás? Eh...

882
00:55:37,709 --> 00:55:40,962
solo diré
Nadie está invirtiendo más en un piloto de IA.

883
00:55:41,046 --> 00:55:42,630
Nuestro piloto de IA se llama Hivemind.

884
00:55:43,298 --> 00:55:47,135
entonces lo aplicamos a nuestro quadcopter Nova.
Va dentro de los edificios,

885
00:55:47,218 --> 00:55:49,387
los explora
por delante de las fuerzas de operaciones especiales

886
00:55:49,471 --> 00:55:50,805
y fuerzas de infantería.

887
00:55:50,889 --> 00:55:52,891
Estamos aplicando Hivemind a V-BAT,

888
00:55:52,974 --> 00:55:56,811
entonces pienso en, ya sabes,
poniendo cientos de esos equipos.

889
00:55:56,895 --> 00:55:58,646
Ya sea el Estrecho de Taiwán,

890
00:55:58,730 --> 00:56:01,608
ya sea en Ucrania,
disuadir a nuestros adversarios.

891
00:56:01,691 --> 00:56:03,360
Muy emocionado por eso.

892
00:56:03,943 --> 00:56:06,196
- Está bien. Gracias.
- Entonces. Gracias general.

893
00:56:06,279 --> 00:56:07,906
[charla confusa]

894
00:56:07,989 --> 00:56:13,370
Los pilotos de IA deberían ser omnipresentes,
y ese debería ser el caso para 2025, 2030.

895
00:56:14,204 --> 00:56:17,582
Su adopción será rápida
en los ejércitos de todo el mundo.

896
00:56:17,665 --> 00:56:19,167
[charla inaudible]

897
00:56:19,250 --> 00:56:22,962
¿Qué haces con el ejército rumano?
¿Su chico UAS?

898
00:56:23,046 --> 00:56:24,756
[soldado] Alta tecnología en el ejército.

899
00:56:25,256 --> 00:56:29,803
Hemos gastado 500 millones de dólares hasta la fecha
sobre la construcción de un piloto de IA.

900
00:56:29,886 --> 00:56:34,015
Gastaremos otros mil millones de dólares
durante los próximos cinco años. Y eso es...

901
00:56:34,099 --> 00:56:37,769
Es una de las principales razones por las que estamos ganando.
los programas registrados en los EE. UU.

902
00:56:37,852 --> 00:56:38,853
Bonito.

903
00:56:38,937 --> 00:56:42,732
Quiero decir, es impresionante.
Lograste convertir eso en un arma.

904
00:56:43,608 --> 00:56:45,944
Uh, lo es... Esto aún no está armado.

905
00:56:46,027 --> 00:56:48,321
Así que todavía no. Pero sí, en el futuro.

906
00:56:48,905 --> 00:56:52,534
Nuestros clientes lo consideran un camión.
Lo consideramos un camión inteligente.

907
00:56:52,617 --> 00:56:54,452
que puede hacer muchas cosas diferentes.

908
00:56:54,536 --> 00:56:55,703
Gracias, amigo.

909
00:56:55,787 --> 00:56:57,956
[Brandon] Me aseguraré
para hacer un seguimiento contigo.

910
00:56:58,456 --> 00:57:00,458
[charla inaudible]

911
00:57:01,668 --> 00:57:04,129
Si vuelves dentro de 10 años,

912
00:57:04,212 --> 00:57:06,256
ya verás que, um...

913
00:57:06,339 --> 00:57:10,802
IA y autonomía
habrá dominado todo este mercado.

914
00:57:10,885 --> 00:57:12,887
[suena música críptica]

915
00:57:14,889 --> 00:57:19,352
[Nathan] Fuerzas que son apoyadas
por IA y autonomía

916
00:57:19,436 --> 00:57:25,108
dominará absolutamente,
aplastar y destruir las fuerzas externas.

917
00:57:26,401 --> 00:57:30,780
sera el equivalente
de caballos enfrentándose a los tanques,

918
00:57:31,781 --> 00:57:34,367
gente con espadas
chocando contra la ametralladora.

919
00:57:34,909 --> 00:57:37,120
Ni siquiera estará cerca.

920
00:57:38,746 --> 00:57:42,750
[Brandon] Se volverá omnipresente,
utilizado en todos los espectros de la guerra,

921
00:57:43,585 --> 00:57:44,836
el nivel táctico,

922
00:57:45,336 --> 00:57:46,546
el nivel estratégico,

923
00:57:47,172 --> 00:57:50,800
operando a velocidades
que los humanos hoy no pueden comprender.

924
00:57:53,094 --> 00:57:57,098
[Paul] Los comandantes ya están abrumados
con demasiada información.

925
00:57:57,599 --> 00:58:01,019
Imágenes de satélites,
y drones y sensores.

926
00:58:02,103 --> 00:58:03,396
Una de las cosas que la IA puede hacer

927
00:58:03,480 --> 00:58:06,774
es ayudar a un comandante
comprender más rápidamente lo que está ocurriendo.

928
00:58:07,650 --> 00:58:09,903
Y luego: "¿Cuáles son las decisiones
necesito hacer?"

929
00:58:11,237 --> 00:58:14,866
[Bob] Inteligencia artificial
tendrá en cuenta todos los factores

930
00:58:14,949 --> 00:58:17,702
que determinan la forma en que se libra la guerra,

931
00:58:18,286 --> 00:58:20,246
idear estrategias...

932
00:58:22,540 --> 00:58:25,668
y dar recomendaciones
sobre cómo ganar una batalla.

933
00:58:25,752 --> 00:58:27,754
[la música críptica continúa]

934
00:58:27,837 --> 00:58:29,589
[pájaros cantando]

935
00:58:36,971 --> 00:58:40,266
[hombre 20] Nosotros en Lockheed Martin,
como nuestro cliente del Departamento de Defensa,

936
00:58:40,350 --> 00:58:43,770
ver inteligencia artificial
como un habilitador tecnológico clave

937
00:58:43,853 --> 00:58:45,104
para mando y control.

938
00:58:47,065 --> 00:58:50,235
[analista 1] La tasa de propagación
tiene un promedio de dos pies por segundo.

939
00:58:50,318 --> 00:58:52,695
[analista 2] Este perímetro
es de aproximadamente 700 acres.

940
00:58:52,779 --> 00:58:55,782
[hombre 20] La niebla de la guerra es
una realidad para nosotros en el lado de la defensa,

941
00:58:57,158 --> 00:59:00,495
pero tiene paralelos
estar en el ambiente

942
00:59:00,578 --> 00:59:03,206
y tener que tomar decisiones
también para los incendios forestales.

943
00:59:03,289 --> 00:59:06,543
[analista 1] <i>El incendio de Washburn
está justo al norte de la ciudad de Wawona.</i>

944
00:59:06,626 --> 00:59:09,629
[hombre 20] Tienes que tomar decisiones
con datos imperfectos.

945
00:59:10,630 --> 00:59:14,300
Entonces, ¿cómo podemos ayudarnos con la IA?
con esa niebla de guerra?

946
00:59:17,637 --> 00:59:19,597
Los incendios forestales son muy caóticos.

947
00:59:20,181 --> 00:59:21,266
Son muy complejos,

948
00:59:22,267 --> 00:59:26,354
y por eso estamos trabajando
utilizar inteligencia artificial

949
00:59:26,437 --> 00:59:27,855
para ayudar a tomar decisiones.

950
00:59:28,356 --> 00:59:30,942
[suena una música melódica sombría]

951
00:59:31,442 --> 00:59:33,987
El administrador de la misión cognitiva
es un programa que estamos construyendo

952
00:59:34,070 --> 00:59:37,949
que toma video infrarrojo aéreo

953
00:59:38,032 --> 00:59:41,786
y luego lo procesa
a través de nuestros algoritmos de IA

954
00:59:41,869 --> 00:59:45,248
para poder predecir
el estado futuro del incendio.

955
00:59:45,331 --> 00:59:47,083
[la música se intensifica]

956
00:59:48,042 --> 00:59:49,794
[hombre 21] A medida que avanzamos hacia el futuro,

957
00:59:49,877 --> 00:59:52,922
el Gerente de Misión Cognitiva
utilizará simulación,

958
00:59:53,006 --> 00:59:57,093
escenarios de ejecución
durante miles de ciclos,

959
00:59:57,176 --> 01:00:00,722
recomendar la forma más efectiva
para desplegar recursos

960
01:00:00,805 --> 01:00:04,058
para suprimir áreas de incendio de alta prioridad.

961
01:00:04,142 --> 01:00:05,810
[suena música tensa]

962
01:00:08,062 --> 01:00:12,400
Dirá: "Ve a realizar una fotografía aérea".
supresión con un Firehawk aquí."

963
01:00:13,568 --> 01:00:15,903
"Lleven equipos de tierra que limpien la maleza...

964
01:00:15,987 --> 01:00:16,904
[aullido de sirenas]

965
01:00:16,988 --> 01:00:19,032
...bomberos que están rociando con manguera,

966
01:00:19,657 --> 01:00:23,077
y desplegarlos
en las áreas de mayor prioridad."

967
01:00:24,704 --> 01:00:26,205
[la música se intensifica]

968
01:00:26,289 --> 01:00:29,292
Esas decisiones
se podrá generar más rápido

969
01:00:29,375 --> 01:00:31,044
y más eficientemente.

970
01:00:35,840 --> 01:00:38,468
[Justin T.] Vemos la IA
como lo único que permite a nuestros humanos

971
01:00:38,551 --> 01:00:42,305
para poder seguir el ritmo
con el entorno en constante cambio.

972
01:00:42,388 --> 01:00:43,431
[suena música sombría]

973
01:00:43,514 --> 01:00:46,517
Y hay
un número creíble de paralelos

974
01:00:46,601 --> 01:00:50,355
a lo que estamos acostumbrados en Lockheed Martin
en el lado de la defensa.

975
01:00:52,231 --> 01:00:55,860
[Emilia] Los militares ya no están
hablando solo de usar IA

976
01:00:55,943 --> 01:01:00,323
en sistemas de armas individuales
para tomar decisiones sobre objetivos y asesinatos,

977
01:01:00,865 --> 01:01:02,200
pero integrando IA

978
01:01:02,283 --> 01:01:05,787
en toda la toma de decisiones
arquitectura de los militares.

979
01:01:05,870 --> 01:01:07,413
[pitido]

980
01:01:09,415 --> 01:01:12,960
[Bob] El ejército tiene un gran proyecto.
llamado Proyecto Convergencia.

981
01:01:14,545 --> 01:01:16,589
La Marina tiene Overmatch.

982
01:01:16,673 --> 01:01:19,592
Y la Fuerza Aérea tiene
Sistema avanzado de gestión de batalla.

983
01:01:19,676 --> 01:01:21,260
[pitido]

984
01:01:21,886 --> 01:01:24,138
El Departamento de Defensa
está tratando de descubrir,

985
01:01:24,222 --> 01:01:26,683
"¿Cómo juntamos todas estas piezas,

986
01:01:26,766 --> 01:01:29,268
para que podamos operar
más rápido que nuestro adversario

987
01:01:30,395 --> 01:01:32,355
y realmente obtener una ventaja?"

988
01:01:33,481 --> 01:01:37,527
[Stacie] Un administrador de batalla de IA sería
como un general de bastante alto rango

989
01:01:37,610 --> 01:01:39,821
quién está a cargo de la batalla.

990
01:01:39,904 --> 01:01:41,072
[la música sombría continúa]

991
01:01:41,155 --> 01:01:44,158
Ayudando a dar ordenes
a un gran número de fuerzas,

992
01:01:45,118 --> 01:01:49,247
coordinando las acciones
de todas las armas que existen,

993
01:01:49,330 --> 01:01:51,958
y hacerlo a una velocidad
que ningún humano podría seguir.

994
01:01:52,041 --> 01:01:53,459
[la música se intensifica]

995
01:01:53,543 --> 01:01:55,294
[Emilia] Hemos pasado los últimos 70 años

996
01:01:55,378 --> 01:01:58,798
construyendo el ejército más sofisticado
en el planeta,

997
01:01:58,881 --> 01:02:03,177
y ahora nos enfrentamos a la decisión
sobre si queremos ceder el control

998
01:02:03,261 --> 01:02:07,598
sobre esa infraestructura a un algoritmo,
al software.

999
01:02:08,141 --> 01:02:10,268
[charla confusa]

1000
01:02:10,351 --> 01:02:13,187
Y las consecuencias de esa decisión.

1001
01:02:13,271 --> 01:02:16,774
podría desencadenar todo el peso
de nuestros arsenales militares.

1002
01:02:16,858 --> 01:02:19,902
Ese no es un Hiroshima. Son cientos.

1003
01:02:19,986 --> 01:02:21,404
[la música va en aumento]

1004
01:02:25,616 --> 01:02:27,869
Este es el momento en que debemos actuar.

1005
01:02:27,952 --> 01:02:33,166
porque la ventana para realmente
contener este riesgo se está cerrando rápidamente.

1006
01:02:33,249 --> 01:02:34,584
[suena música melódica]

1007
01:02:34,667 --> 01:02:39,338
[Presidente de la ONU] <i>Esta tarde comenzamos
con desafíos de seguridad internacional</i>

1008
01:02:39,422 --> 01:02:41,132
<i>planteados por las tecnologías emergentes</i>

1009
01:02:41,215 --> 01:02:44,343
en el área de letal
Sistemas de armas autónomos.

1010
01:02:44,427 --> 01:02:47,722
[Emilia] Las conversaciones están sucediendo
dentro de las Naciones Unidas

1011
01:02:47,805 --> 01:02:50,016
sobre la amenaza
de armas letales autónomas

1012
01:02:50,600 --> 01:02:56,564
y nuestra prohibición de sistemas
que utilizan IA para seleccionar y dirigirse a personas.

1013
01:02:56,647 --> 01:03:00,777
Consenso entre tecnólogos
es claro y rotundo.

1014
01:03:00,860 --> 01:03:04,030
nos oponemos
a armas autónomas dirigidas a humanos.

1015
01:03:05,615 --> 01:03:08,993
[Izumi] Durante años, los estados en realidad han
discutido este tema

1016
01:03:09,076 --> 01:03:11,329
de sistemas letales de armas autónomas.

1017
01:03:12,288 --> 01:03:16,793
Se trata de algo común,
sensación de seguridad compartida.

1018
01:03:17,752 --> 01:03:20,546
Pero claro, no es fácil.

1019
01:03:21,297 --> 01:03:25,968
Ciertos países,
especialmente aquellas potencias militares,

1020
01:03:26,052 --> 01:03:27,762
quieren estar a la vanguardia,

1021
01:03:28,429 --> 01:03:31,599
para que sean
por delante de sus adversarios.

1022
01:03:32,600 --> 01:03:36,187
[Paul] El problema es que todos
tiene que aceptar para hacer algo.

1023
01:03:36,896 --> 01:03:39,065
Habrá
al menos un país que se oponga,

1024
01:03:39,148 --> 01:03:42,109
y ciertamente los Estados Unidos
y Rusia han dejado claro

1025
01:03:42,193 --> 01:03:45,655
que se oponen a un tratado
eso prohibiría las armas autónomas.

1026
01:03:47,198 --> 01:03:53,246
[Emilia] Cuando pensamos en el número
de personas trabajando para hacer que la IA sea más poderosa

1027
01:03:54,747 --> 01:03:56,457
Esa sala está muy llena.

1028
01:03:57,750 --> 01:04:02,880
Cuando pensamos en la habitación de las personas,
asegurarse de que la IA sea segura,

1029
01:04:04,340 --> 01:04:07,552
Esa habitación está mucho menos poblada.
[risas]

1030
01:04:11,764 --> 01:04:13,724
Pero también soy muy optimista.

1031
01:04:13,808 --> 01:04:15,560
[suena música melódica]

1032
01:04:16,060 --> 01:04:19,438
miro algo
como la Convención sobre Armas Biológicas,

1033
01:04:19,522 --> 01:04:21,774
que paso
en plena Guerra Fría...

1034
01:04:21,858 --> 01:04:22,942
[la multitud aplaude]

1035
01:04:23,025 --> 01:04:27,655
...a pesar de las tensiones entre la Unión Soviética
y Estados Unidos.

1036
01:04:29,156 --> 01:04:33,536
Pudieron darse cuenta
que el desarrollo de armas biológicas

1037
01:04:33,619 --> 01:04:36,247
no era lo mejor para ellos,

1038
01:04:36,330 --> 01:04:38,749
y no en el mejor interés
del mundo en general.

1039
01:04:38,833 --> 01:04:40,835
[la música se intensifica]

1040
01:04:41,335 --> 01:04:44,672
Dinámica de la carrera armamentista
favorecer la velocidad sobre la seguridad.

1041
01:04:44,755 --> 01:04:45,631
[pitido]

1042
01:04:45,715 --> 01:04:48,342
pero creo que
lo que es importante considerar es,

1043
01:04:48,426 --> 01:04:52,430
en algún momento,
el costo de actuar con rapidez se vuelve demasiado alto.

1044
01:04:54,557 --> 01:04:56,142
[pitido]

1045
01:04:56,225 --> 01:04:59,270
[Sean] No podemos simplemente desarrollar cosas
en aislamiento

1046
01:05:00,021 --> 01:05:06,611
y sacarlos ahí sin pensarlo
de dónde podrían ir en el futuro.

1047
01:05:07,862 --> 01:05:10,823
tenemos que prevenir
Ese momento de la bomba atómica.

1048
01:05:13,117 --> 01:05:14,493
[la música se intensifica]

1049
01:05:14,577 --> 01:05:17,705
[Brandon] Lo que está en juego en la carrera de la IA
son masivos.

1050
01:05:18,289 --> 01:05:22,001
No creo que mucha gente
apreciar la estabilidad global

1051
01:05:22,084 --> 01:05:28,174
que ha sido proporcionado
al tener una fuerza militar superior

1052
01:05:28,257 --> 01:05:31,135
durante los últimos 75 años.

1053
01:05:31,218 --> 01:05:32,803
[pitido]

1054
01:05:32,887 --> 01:05:35,681
Y así los Estados Unidos
y nuestras fuerzas aliadas,

1055
01:05:36,557 --> 01:05:38,684
necesitan superar a la IA adversaria.

1056
01:05:40,436 --> 01:05:41,854
[la música va en aumento]

1057
01:05:43,314 --> 01:05:44,774
No hay un segundo lugar en la guerra.

1058
01:05:45,524 --> 01:05:47,485
[reportero 6] <i>China expuesta
un plan ambicioso</i>

1059
01:05:47,568 --> 01:05:49,111
<i>ser el líder mundial en IA para 2030.</i>

1060
01:05:49,195 --> 01:05:51,656
Es una carrera que algunos dicen América.
esta perdiendo...

1061
01:05:51,739 --> 01:05:52,657
[suena música tensa]

1062
01:05:52,740 --> 01:05:56,160
[oficial] Él acelerará
la adopción de la inteligencia artificial

1063
01:05:56,243 --> 01:05:59,246
para asegurar
nuestra ventaja militar competitiva.

1064
01:05:59,330 --> 01:06:00,206
[pitido]

1065
01:06:00,289 --> 01:06:02,291
[la música se intensifica]

1066
01:06:02,875 --> 01:06:05,461
[Paul] Estamos corriendo hacia adelante
con esta tecnología.

1067
01:06:05,544 --> 01:06:08,673
Creo que lo que no está claro
¿Hasta dónde vamos a llegar?

1068
01:06:09,507 --> 01:06:12,760
¿Controlamos la tecnología?
¿O nos controla?

1069
01:06:14,136 --> 01:06:16,973
[Emilia] Realmente no hay oportunidad
para repeticiones.

1070
01:06:17,807 --> 01:06:20,977
Una vez que el genio sale de la botella,
está fuera.

1071
01:06:22,019 --> 01:06:25,189
Y es muy, muy difícil.
para volver a colocarlo.

1072
01:06:26,065 --> 01:06:27,566
[pitido]

1073
01:06:28,609 --> 01:06:31,737
[Sean] Y si no actuamos ahora,
es demasiado tarde.

1074
01:06:31,821 --> 01:06:33,030
[pitido]

1075
01:06:33,114 --> 01:06:34,657
Puede que ya sea demasiado tarde.

1076
01:06:35,366 --> 01:06:36,366
[pitido]

1077
01:06:42,123 --> 01:06:43,499
[la música va en aumento]

1078
01:06:45,209 --> 01:06:48,212
[suena una música melódica sombría]

1079
01:08:53,629 --> 01:08:57,383
[timbre de tonos armónicos]